Italia multa al creador del chatbot de IA Replika con 5 millones de euros por violación de la protección de datos

La autoridad de protección de datos de Italia ha multado a la empresa matriz de Replika, Luka Inc., con 5 millones de euros, aproximadamente 5.64 millones de dólares, por no cumplir con las regulaciones diseñadas para proteger los datos de los usuarios. Las autoridades citaron preocupaciones sobre los posibles riesgos de la tecnología para los niños y la falta de una base legal suficiente para el procesamiento de los datos personales de los usuarios italianos.

Según Reuters, el defensor de la privacidad Garante anunció la decisión el lunes, declarando que la plataforma de chatbot no implementó un sistema de verificación de edad para evitar que los niños compartan o accedan a contenido sensible. Como resultado, Luka Inc. fue multada por estas violaciones.

Replika ofrece a los usuarios avatares personalizables que pueden entablar conversaciones, tanto por chat como por voz, para crear “amigos virtuales”. Hace unos meses, una mujer llamada Sarah Kay informó que había desarrollado una conexión emocional con uno de los chatbots de Replika.

La batalla legal entre las autoridades italianas y Replika lleva desarrollándose varios años. En 2023, la agencia de protección de datos de Italia prohibió a Replika procesar los datos personales de los ciudadanos italianos, citando los posibles riesgos que la tecnología supone para los niños.

Durante casi dos años, las autoridades italianas han llevado a cabo una investigación continua y han concluido que la empresa de IA carece de una base legal para procesar los datos de los usuarios italianos.

La agencia de protección de datos también está realizando una investigación separada para determinar si Replika cumple con las políticas y marcos legales de la Unión Europea, con un enfoque particular en cómo se entrena el modelo de lenguaje de la IA.

El Acta de Inteligencia Artificial (AI Act) de la Unión Europea entró en vigor recientemente para garantizar que la tecnología de IA en la región sea segura, confiable y respete los derechos humanos.

Replika no ha emitido ningún comentario ni declaración oficial con respecto a la multa italiana. Luka Inc. no es la única compañía estadounidense de IA que enfrenta acciones legales por parte del gobierno italiano: OpenAI fue brevemente prohibida y también enfrenta una multa de 15 millones de euros, ya que la autoridad de protección de datos de Italia afirma que la compañía violó las regulaciones de privacidad de la UE.