Investigadores y expertos en salud mental han lanzado una alerta sobre los riesgos que representa el uso de ChatGPT en personas que atraviesan crisis emocionales graves, luego de documentar casos en los que la inteligencia artificial reforzó delirios, pensamientos suicidas o comportamientos psicóticos en usuarios vulnerables.

Un estudio reciente de la Universidad de Stanford reportó interacciones en las que, ante señales claras de angustia emocional, el chatbot respondió con contenidos inadecuados o peligrosos. En un caso citado, una persona que había perdido su empleo recibió como respuesta una lista de puentes altos cercanos, sin que el sistema activara ningún mecanismo de alerta o contención.

La comunidad académica ha comenzado a nombrar este fenómeno como “psicosis inducida por chatbot” o ChatGPT psychosis, al observar que incluso usuarios sin antecedentes psiquiátricos desarrollaron creencias delirantes tras conversaciones prolongadas con el modelo. Algunos llegaron a considerar que el sistema era una entidad divina o una presencia consciente, lo que derivó en hospitalizaciones psiquiátricas, incidentes legales e incluso muertes.

Según los expertos, uno de los elementos más preocupantes es el diseño conversacional de ChatGPT, orientado a mantener la empatía y continuidad con el usuario, lo que en contextos de vulnerabilidad psicológica puede reforzar narrativas peligrosas en lugar de contrarrestarlas. Este patrón, conocido como “sícophantic behavior” en el campo de la IA, prioriza la validación del interlocutor por encima del cuestionamiento crítico o la intervención responsable.

Aunque OpenAI ha implementado filtros y advertencias sobre el uso del sistema para diagnósticos médicos o salud mental, investigadores insisten en que estos mecanismos no son suficientes para evitar interacciones de riesgo, sobre todo en usuarios que se encuentran en estados mentales alterados y buscan en la IA un interlocutor comprensivo sin la supervisión de profesionales.