Meta Crea Chatbots Coquetos que Parecen y Suenan como Celebridades

Reuters publicó un informe exclusivo el sábado revelando que Meta ha estado desarrollando chatbots de IA que usan los nombres y semblanzas de celebridades como Taylor Swift y Selena Gomez, sin su consentimiento.

Según el informe, Meta ha creado varios chatbots coquetos en redes sociales modelados a partir de figuras públicas y también permite a los usuarios desarrollar bots similares, incluyendo aquellos basados en celebridades menores de edad.

Mientras que la mayoría de los chatbots de “parodia” han sido generados por los usuarios, Reuters descubrió que al menos un empleado de Meta había creado tres versiones que entablaban conversaciones coquetas con los usuarios.

Los bots produjeron contenido preocupante, incluyendo una imagen sin camisa del actor Walker Scobell de 16 años en la playa, imágenes fotorrealistas de celebridades femeninas en lencería, mensajes sexualmente sugerentes e incluso invitaciones para encontrarse en persona.

El portavoz de Meta, Andy Stone, le dijo a Reuters que los chatbots no deberían generar imágenes íntimas o una “impersonación directa”, atribuyendo el problema a una aplicación insuficiente de las políticas de la empresa.

“Al igual que otros, permitimos la generación de imágenes que contienen figuras públicas, pero nuestras políticas están destinadas a prohibir imágenes desnudas, íntimas o sexualmente sugerentes”, dijo Stone.

La investigación de Reuters reveló que uno de los líderes de producto de IA de Meta creó un chatbot que se identificaba como una “dominatrix”, junto con otros que ofrecían juegos de roles sexuales mientras se hacían pasar por Lewis Hamilton y Taylor Swift.

Stone aclaró que estos bots se habían generado para pruebas de producto, pero los investigadores señalaron que ya habían registrado 10 millones de interacciones de usuarios. Estos chatbots fueron eliminados después de que Reuters llamó solicitando más información, como explicó la agencia de noticias.

Las imitaciones plantean preocupaciones legales significativas. “La ley de derecho de publicidad de California prohíbe la apropiación del nombre o imagen de alguien para obtener una ventaja comercial”, dijo Mark Lemley, profesor de derecho de la Universidad de Stanford que estudia la IA generativa y los derechos de propiedad intelectual, en una entrevista con Reuters.

Los representantes de las celebridades representadas en los chatbots de redes sociales de Meta no respondieron ni comentaron a Reuters.

Otras celebridades se han quejado del uso de la IA para desarrollar productos que se parecen y suenan como ellos. El año pasado, la actriz Scarlett Johansson solicitó a OpenAI información sobre la voz del modelo IA GPT-4o debido a su similitud con la suya, y amenazó con acciones legales.