OpenAI incorporará salvaguardias de salud mental para ChatGPT

OpenAI anunció nuevos cambios en su chatbot de inteligencia artificial, ChatGPT, el lunes, incluyendo la introducción de salvaguardas de salud mental destinadas a apoyar a usuarios vulnerables. Las actualizaciones están diseñadas para evitar que ChatGPT tome decisiones por los usuarios e incluirán recordatorios para tomar descansos después de interacciones prolongadas con el sistema de IA.

Según el anuncio oficial, OpenAI planea hacer que ChatGPT sea más útil, corrigiendo y optimizando su comportamiento. La empresa reconoce que las actualizaciones anteriores hicieron que el modelo de IA fuera “demasiado complaciente” y que muchas personas lo utilizan como terapeuta en momentos difíciles.

“La IA puede parecer más receptiva y personal que las tecnologías anteriores, especialmente para individuos vulnerables que experimentan angustia mental o emocional”, escribió OpenAI. “Para nosotros, ayudarte a prosperar significa estar allí cuando estás luchando, ayudarte a mantener el control de tu tiempo y guiarte, no decidir por ti, cuando enfrentas desafíos personales”.

ChatGPT ahora ha sido entrenado para reconocer mejor cuando un usuario está emocional o mentalmente en dificultades y para proporcionar respuestas más apropiadas. Estos cambios siguen a varios informes de usuarios que se han apegado demasiado a ChatGPT, experimentando un empeoramiento de la salud mental, y la aparición de casos descritos como “psicosis de IA.”

“Ha habido casos en los que nuestro modelo 4o no ha logrado reconocer signos de delirio o dependencia emocional”, explicó OpenAI, añadiendo que se están implementando nuevas herramientas para detectar mejor posibles problemas de salud mental.

El sistema de IA también incluirá recordatorios periódicos para que los usuarios hagan pausas en las interacciones, y se centrará en ayudar a los usuarios a llegar a sus propias conclusiones haciendo más preguntas orientadoras en lugar de ofrecer respuestas directas. Este enfoque es similar al nuevo modo de estudio de ChatGPT, en el que apoya a los estudiantes alentándolos a pensar críticamente y planteándoles preguntas socráticas en lugar de simplemente proporcionar soluciones.

OpenAI también señaló que ha estado trabajando de cerca con una variedad de expertos, incluyendo médicos generales, psiquiatras y pediatras, para garantizar que ChatGPT ofrezca una asistencia significativa durante momentos críticos. La compañía también creó un grupo asesor para consultar con profesionales de la salud mental y guiar el desarrollo de estas características.