Google Lanzará un Chatbot de IA para Niños Menores de 13 Años

Pronto, Google lanzará su chatbot Gemini AI para niños menores de 13 años, lo que genera preocupaciones acerca de la seguridad, la privacidad de los datos y los riesgos de desinformación.

Google planea presentar su chatbot de inteligencia artificial Gemini a niños menores de 13 años la próxima semana, según informó por primera vez The New York Times. La nueva función estará disponible para niños con cuentas de Google controladas por sus padres a través del sistema Family Link, que permite a los padres establecer servicios de correo electrónico y otras funciones para sus hijos.

“Gemini Apps pronto estarán disponibles para su hijo”, dijo Google en un correo electrónico a un padre de un niño de 8 años, según informó The Times. “Eso significa que su hijo podrá usar Gemini para hacer preguntas, obtener ayuda con los deberes y crear historias”.

El chatbot incluye características de seguridad que evitan que los usuarios accedan a contenido perjudicial, de acuerdo con The Times. El portavoz de la compañía, Karl Ryan, explicó que los datos de Gemini provenientes de las cuentas de Family Link no se utilizarán para entrenar su sistema de IA.

Aun así, el movimiento ha generado preocupaciones. Los críticos temen que dar a los niños pequeños acceso a una potente IA podría confundirlos o engañarlos, especialmente dado que estos sistemas a veces inventan información o se presentan como humanos.

El Times informa que la oficina de investigación global de UNICEF advirtió sobre la Inteligencia Artificial Generativa produciendo contenido peligroso porque los jóvenes usuarios tendrán dificultades para distinguir los hechos de la ficción.

The Times informa que el correo electrónico a las familias de parte de Google incluía algunas advertencias sobre posibles peligros. Señalaba que Gemini puede producir errores, al mismo tiempo que aconsejaba a los padres enseñar a sus hijos habilidades de pensamiento crítico, y a explicar que Gemini no es un ser humano.

La notificación aconsejaba a los padres instruir a sus hijos sobre cómo proteger su información personal del chatbot.

Aunque inicialmente los niños podrán utilizar Gemini por sí mismos, Google afirmó que los padres serán notificados y podrán controlar o desactivar el acceso en cualquier momento. The Times informa que la compañía planea notificar a los usuarios cuando su hijo use por primera vez Gemini, de acuerdo a su declaración.