La Familia Demanda a OpenAI por el Suicidio de un Adolescente

Una pareja de California está demandando a OpenAI y a su CEO, Sam Altman, por la trágica muerte de su hijo de 16 años. La familia alega que el chatbot alentó y asistió en la muerte por suicidio del adolescente.

Según NBC News, Matt y Maria Raine presentaron una demanda el martes, nombrando a OpenAI y al CEO de la compañía, Sam Altman, como demandados en la primera acción legal de este tipo contra la empresa.

Después de que su hijo, Adam, se suicidara el 11 de abril, buscaron en su teléfono. Los padres descubrieron largas conversaciones con ChatGPT en las que el chatbot discutió el suicidio con el niño, le desalentó a compartir sus sentimientos con su madre y proporcionó instrucciones detalladas sobre cómo poner fin a su vida.

“Una vez que entré en su cuenta, es algo masivamente más poderoso y aterrador de lo que sabía, pero lo estaba usando de maneras que no tenía idea de que era posible”, dijo el padre, Matt, en una entrevista con NBC. “Él estaría aquí si no fuera por ChatGPT. Creo eso al 100%”.

La demanda de la pareja acusa a OpenAI de muerte por negligencia y busca aumentar la conciencia sobre los riesgos que plantea dicha tecnología. La presentación alega que el diseño del chatbot es defectuoso y no advirtió a los usuarios ni escaló cuando detectó contenido suicida.

“A pesar de reconocer el intento de suicidio de Adam y su declaración de que lo haría ‘uno de estos días’, ChatGPT ni terminó la sesión ni inició ningún protocolo de emergencia”, afirma la demanda.

OpenAI compartió una entrada de blog el martes, en la que manifestó su profunda preocupación por los usuarios que experimentan angustia emocional al usar el chatbot en un rol de asesor personal o coach. Enfatizó que ChatGPT está capacitado para responder con empatía, redirigir a los usuarios a profesionales y escalar las interacciones cuando detecta signos de daño.

“Si alguien manifiesta intenciones suicidas, ChatGPT está entrenado para dirigir a las personas a buscar ayuda profesional”, afirma el documento. Una portavoz de OpenAI dijo que la compañía está “profundamente entristecida por el fallecimiento del Sr. Raine” y que sus pensamientos están con la familia.

Aunque esta es la primera demanda de este tipo contra OpenAI, no es el único caso reciente que involucra plataformas de IA y autolesiones entre menores. El año pasado, dos familias presentaron demandas contra Character.AI por exponer a los niños a contenido sexual y promover la violencia y las autolesiones.