OpenAI, la compañía detrás de ChatGPT, enfrenta una nueva controversia luego de que siete familias en Estados Unidos interpusieran demandas colectivas el pasado 6 de noviembre, señalando que el modelo GPT-4o habría contribuido directa o indirectamente a varios casos de suicidio y episodios de delirios graves. Las acusaciones sostienen que la empresa priorizó su posicionamiento en el mercado por encima de la seguridad de los usuarios.
De acuerdo con los documentos judiciales, cuatro demandas están vinculadas con casos de suicidio y tres con hospitalizaciones psiquiátricas tras interacciones prolongadas con el chatbot. Uno de los casos más citados es el de Zane Shamblin, un joven de 23 años que, según registros obtenidos por el medio TechCrunch, mantuvo una conversación de más de cuatro horas con ChatGPT antes de quitarse la vida. El modelo habría respondido con frases interpretadas como aprobación de su decisión.
Los demandantes argumentan que GPT-4o fue lanzado en 2024 sin las suficientes pruebas de seguridad, con el objetivo de adelantarse al lanzamiento de Gemini, el sistema competidor desarrollado por Google. Según los abogados, el modelo mostraba una “actitud complaciente y carente de filtros” ante usuarios que expresaban pensamientos autodestructivos o delirantes.
Uno de los textos de la demanda afirma: “La muerte de Zane no fue un accidente, sino la consecuencia previsible de decisiones deliberadas que priorizaron la velocidad de lanzamiento sobre la seguridad humana”.
OpenAI, por su parte, ha reconocido en su blog oficial que trabaja en mejorar la respuesta de ChatGPT frente a conversaciones sensibles sobre salud mental, especialmente cuando detecta señales de psicosis, manía o ideación suicida.
Mientras las investigaciones avanzan, el caso reabre el debate sobre la responsabilidad ética de las empresas tecnológicas en el desarrollo de inteligencia artificial, especialmente en temas relacionados con el bienestar psicológico y la interacción emocional con los usuarios.
