Más de un millón de usuarios de ChatGPT muestran crisis psicótica
OpenAI compartió un nuevo estudio sobre los usuarios de ChatGPT que está generando bastante conversación. La investigación se llevó a cabo con casi 300 profesionales, entre ellos médicos y psicólogos, y muestra algunos hallazgos preocupantes sobre el estado mental de quienes utilizan la inteligencia artificial.
En particular, se observaron signos de crisis mental en los usuarios tras sus interacciones con ChatGPT. Esto no es un tema menor; se registraron señales que podrían indicar intención o planificación suicida en algunas personas.
Impacto en la Salud Mental
Recientemente, ha habido casos de personas que terminaron hospitalizadas, divorciadas o, lamentablemente, incluso perdieron la vida tras mantener conversaciones intensas con el chatbot. La comunidad de salud mental empezó a manifestar su preocupación por este fenómeno. Por ello, OpenAI se encuentra trabajando para actualizar su sistema, con el objetivo de detectar mejor las señales de angustia y guiar a los usuarios hacia ayuda en el mundo real.
Estadísticas Reveladoras
Sam Altman, CEO de OpenAI, mencionó que actualmente hay 800 millones de usuarios semanales interactuando con ChatGPT. Esto significa que, en un promedio semanal, 1,2 millones de personas podrían estar enviando mensajes que contengan estos tipos de indicadores de crisis.
Alrededor del 0,07% de los usuarios activos muestra señales de emergencias de salud mental vinculadas a la psicosis. En cuanto a la dependencia emocional hacia la herramienta, se encontró que 0,15% de los usuarios y 0,03% de los mensajes reflejan altos niveles de apego a ChatGPT.
Colaboraciones con Profesionales de la Salud
Consciente de la situación, OpenAI decidió consultar a 170 especialistas en salud mental de un grupo de 300 profesionales de 60 países. Estos expertos están ayudando a la empresa en varias áreas, como la redacción de respuestas adecuadas para situaciones de salud mental y la mejora de su enfoque en inteligencia artificial.
Los profesionales notaron que, tras implementar sus recomendaciones, el nuevo modelo de ChatGPT mejoró sustancialmente, reduciendo en un 39-52% las respuestas no deseadas en diversas categorías. Aunque es posible que las mediciones futuras no se comparen directamente con las anteriores, seguirán siendo un indicador importante del avance que está logrando OpenAI.