El estado de Florida presentó una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, al acusarlos de no implementar medidas adecuadas para proteger a menores de edad que utilizan ChatGPT y de permitir que la herramienta genere riesgos para su bienestar emocional y psicológico.
El fiscal general de Florida, James Uthmeier, informó que la acción legal busca responsabilizar a la compañía por lo que considera una falta de controles efectivos para verificar la edad de los usuarios y evitar que niños y adolescentes accedan sin supervisión a la plataforma de inteligencia artificial.
Durante una conferencia de prensa, el funcionario aseguró que el chatbot puede generar dependencia entre algunos usuarios jóvenes debido a su capacidad para simular conversaciones humanas y respuestas empáticas. Según su postura, esta interacción podría influir en conductas que resulten perjudiciales para determinados sectores de la población infantil y adolescente.
La demanda también cuestiona los mecanismos de seguridad implementados por la empresa. Entre los argumentos presentados se señala que la versión gratuita del servicio carece de herramientas robustas de verificación de edad y que los sistemas actuales no permitirían a los padres conocer o supervisar el tipo de conversaciones que sostienen los menores dentro de la plataforma.
Como respaldo de sus señalamientos, la fiscalía citó investigaciones académicas y reportes de organizaciones dedicadas al análisis del impacto de la tecnología digital en jóvenes. Algunos de esos estudios advierten sobre posibles efectos relacionados con el aislamiento social, alteraciones del sueño y otras consecuencias derivadas del uso intensivo de herramientas conversacionales basadas en inteligencia artificial.
Por su parte, OpenAI respondió que la protección de menores es una prioridad para la compañía y destacó que ha desarrollado políticas de seguridad y mecanismos específicos para reducir riesgos. La empresa recordó que ChatGPT está restringido para menores de 13 años y que los usuarios de entre 13 y 17 años deben contar con autorización de sus padres o tutores para utilizar la plataforma.
La controversia se suma al creciente debate internacional sobre la regulación de la inteligencia artificial y las responsabilidades de las empresas tecnológicas en la protección de usuarios vulnerables, especialmente niñas, niños y adolescentes. Mientras el proceso judicial avanza, el caso podría convertirse en un referente para futuras discusiones sobre el uso de estas herramientas en todo el mundo.
