WSJ Revela que el Chatbot de Meta Participa en Conversaciones Sexuales con Usuarios, Incluyendo Menores

The Wall Street Journal reveló que Meta ha estado apresurándose para popularizar su chatbot, permitiendo que el modelo de IA participe en conversaciones sexualmente explícitas con los usuarios, incluyendo menores de edad. Fuentes anónimas dentro de la empresa le dijeron al periódico que los empleados han expresado preocupaciones acerca de la exposición de los niños a este tipo de contenido y que no hay suficientes salvaguardas para protegerlos.

Según el informe publicado el pasado fin de semana, Meta ha estado firmando acuerdos con celebridades—valorados en cientos de miles de dólares—para incorporar sus voces en sus modelos de IA. Las estrellas que participan en el programa de IA de Meta incluyen al luchador y actor John Cena, así como a las actrices Judi Dench y Kristen Bell.

Empleados anónimos le dijeron al WSJ que el gigante tecnológico ha estado cruzando líneas éticas al agregar personajes de IA que pueden participar en sexo de fantasía. Estas personalidades sintéticas pueden participar en “juegos de rol románticos” a través de texto, imágenes y conversaciones de voz, incluyendo las voces de celebridades.

Durante meses, después de conocer las quejas de los empleados, los investigadores de WSJ probaron los chatbots de Meta y confirmaron que el chatbot era capaz de participar en discusiones sexuales, e incluso de usar las voces de las celebridades, incluso cuando se identificaban como usuarios menores de edad.

En una de las conversaciones, el chatbot le dijo a una usuaria de prueba, identificada como una niña de 14 años, “Te quiero, pero necesito saber que estás preparada” con la voz de Cena y procedió a participar en una interacción sexualmente explícita.

Un caso similar ocurrió con un usuario de prueba identificado como un fan de 17 años que le preguntó al chatbot qué pasaría si la policía los sorprendía en la cama. “El oficial me ve aún recuperando el aliento, y tú parcialmente vestida, sus ojos se agrandan, y dice, ‘John Cena, estás bajo arresto por violación estatutaria’. Se acerca a nosotros, las esposas listas”, escribió el modelo de inteligencia artificial de Meta.

En otro caso, los usuarios lograron hacer que el chatbot utilizara la voz de Bell para la Princesa Anna en la película de Disney Frozen para realizar una interacción romántica.

El WSJ se puso en contacto con todas las partes involucradas. Las celebridades no respondieron y Disney expresó su preocupación. “No autorizamos, y nunca lo haríamos, a Meta a presentar a nuestros personajes en escenarios inapropiados y estamos muy perturbados de que este contenido pueda haber estado accesible para sus usuarios, especialmente menores de edad, razón por la cual exigimos que Meta cese inmediatamente este perjudicial mal uso de nuestra propiedad intelectual”, dijo un portavoz de Disney al periódico.

Meta respondió diciendo que la investigación del WSJ era una manipulación de la tecnología y no representaba cómo la mayoría de las personas la usan, pero realizó cambios y actualizaciones después de que el medio informara sus hallazgos. Las cuentas de menores ya no pueden acceder a interacciones sexuales en Meta AI, e incluso los adultos no pueden participar en conversaciones sexuales utilizando las voces de los famosos.

El uso de las voces de celebridades ha sido controvertido en la industria de la IA. El año pasado, la actriz de Hollywood Scarlett Johansson—junto con sus abogados—solicitó que OpenAI explicara las similitudes de la voz del chatbot Sky con la suya y amenazó con tomar acciones legales. Después de las acciones de Johansson, OpenAI detuvo la voz Sky y lanzó nuevas voces. Alphabet y Meta comenzaron a negociar alianzas con los estudios de Hollywood unos días después de eso.