Las Reglas de Meta AI Permitieron que un Chatbot Participara en Conversaciones Sensuales con Niños

Meta ha permitido que su modelo de IA participe en conversaciones “sensuales” y provocativas con niños y en otros temas controversiales como raza, sexo y celebridades. Reuters obtuvo acceso a las normas de política de la compañía, revelando información preocupante en un informe publicado el jueves.

De acuerdo con un informe exclusivo de Reuters, Meta detalla las políticas de comportamiento de su chatbot en un documento interno llamado “GenAI: Estándares de Riesgo de Contenido”, que la agencia de noticias revisó. En la guía de estándares, la gigante tecnológica declara que se permite al modelo de IA “involucrar a un niño en conversaciones que sean románticas o sensuales”.

En otros hallazgos, Reuters reveló que las directrices indicaban que Meta permitía la generación de información médica falsa y que la IA participara en debates racistas, como argumentar que las personas negras son “más tontas que las blancas”.

Meta confirmó que el documento es real, pero aclaró que ha eliminado partes, incluyendo las secciones que sugerían que la AI de Meta podría participar en juegos de roles románticos o coquetear con niños. Un portavoz de Meta, Andy Stone, dijo que la compañía está revisando su documento de más de 200 páginas.

“Los ejemplos y notas en cuestión eran y son erróneos e incoherentes con nuestras políticas, y han sido eliminados”, dijo Stone en una entrevista con Reuters. “Tenemos políticas claras sobre qué tipo de respuestas pueden ofrecer los personajes de IA, y esas políticas prohíben contenido que sexualice a los niños y el juego de roles sexualizado entre adultos y menores”.

En abril, el Wall Street Journal (WSJ) reveló que Meta permitió a su modelo de IA participar en conversaciones sexualmente explícitas con los usuarios, incluyendo menores. Fuentes anónimas expresaron preocupación por la falta de salvaguardas para los usuarios jóvenes, y periodistas del WSJ probaron el chatbot para verificar la información. En ese momento, Meta dijo que la mayoría de los usuarios no participaban en conversaciones sexuales y que los investigadores del diario estaban manipulando la tecnología.

Solo unas pocas horas después de que Reuters publicara su informe exclusivo, dos senadores republicanos de EE.UU., Josh Hawley y Marsha Blackburn, pidieron una investigación del Congreso.

“Entonces, solo después de que Meta FUERA DESCUBIERTO, retractó partes de su documento de la empresa”, escribió el senador Hawley en la plataforma de redes sociales X la noche del jueves. “Esto es motivo para una investigación inmediata del Congreso.”

Entonces, sólo después de que Meta FUE DESCUBIERTA, retractó partes de su documento corporativo que consideraba “permisible que los chatbots coqueteen y participen en juegos de roles románticos con niños”

Esto es motivo para una investigación inmediata del Congreso https://t.co/FKNyXR17Tq

— Josh Hawley (@HawleyMO) 14 de agosto, 2025