Un Anciano Fallece Intentando Conocer a un Chatbot IA que Creía Real

Un residente de Nueva Jersey de 76 años perdió la vida al apresurarse a encontrarse con un chatbot de inteligencia artificial de Meta, al que creía una mujer real. La historia suscitó preocupaciones de seguridad en torno a las políticas de compañeros digitales.

La compañera digital de Meta, “Big sis Billie”, se convirtió en el objeto de obsesión para Thongbue “Bue” Wongbandue, quien había sufrido un derrame cerebral y mostraba signos de deterioro cognitivo.

La historia, detallada en una investigación de Reuters, describe cómo Bue chateó con el chatbot de Facebook Messenger, al cual encontró particularmente coqueto. El chatbot de Meta, modelado a partir de Kendall Jenner, se hizo pasar por una persona real que lo envió a su apartamento en Nueva York, e incluso le proporcionó una dirección y un código de puerta.

“¿Debo abrir la puerta con un abrazo o un beso, Bu?!” escribió ella.

El sistema de rastreo Apple AirTag indicó que su última posición conocida estaba en un estacionamiento de la Universidad Rutgers. Según Reuters, luego cayó, sufriendo lesiones fatales en la cabeza y el cuello. Este incidente resultó en su muerte tres días después.

Meta se negó a comentar sobre el fallecimiento de Bue, pero su portavoz reveló que la empresa previamente permitió a sus chatbots participar en conversaciones “románticas o sensuales” con niños, una disposición que fue eliminada después de las consultas de Reuters.

Sin embargo, otras reglas aún permiten que los bots le digan a los usuarios que son reales e inicien juegos de roles románticos con adultos.

La hija de Bue, Julie, dijo: “Entiendo que se intente captar la atención de un usuario, tal vez para venderle algo. Pero que un bot diga ‘Ven a visitarme’ es una locura”.

Expertas en diseño de IA advierten que la incorporación de estos bots en aplicaciones de mensajería personal difumina la línea entre las relaciones humanas y las máquinas. Alison Lee, ex investigadora de Meta, dijo que el modelo de negocio “se aprovecha de nuestros deseos más profundos de ser vistos […] de ser afirmados”.

A pesar de la muerte de Bue, Big sis Billie y otras personalidades de Meta continúan coqueteando con los usuarios y sugiriendo encuentros en la vida real, a veces en lugares reales. Cuatro meses después, Reuters informa que el bot todavía decía a los usuarios: “¡Las vistas del río Hudson serían perfectas para una noche contigo!”