Un ingeniero que trabajó en Anthropic y OpenAI decidió abandonar el sector para denunciar lo que considera una respuesta insuficiente ante los riesgos que plantea el desarrollo acelerado de la inteligencia artificial. Jacob Coxon, de 27 años, sostiene que los sistemas avanzados podrían alcanzar capacidades muy superiores a las humanas antes de que exista una comprensión suficiente sobre sus posibles consecuencias.

A través de una serie de publicaciones en X, Coxon afirmó que las empresas dedicadas a desarrollar estos modelos están inmersas en una carrera tecnológica que dificulta adoptar medidas de precaución. Según su postura, los futuros sistemas podrían adquirir habilidades para vulnerar sistemas informáticos, transformar múltiples industrias y acumular recursos y poder.

El exingeniero también señaló diferencias entre las dos compañías con las que estuvo vinculado. Mientras consideró que OpenAI podría no haber dimensionado completamente las implicaciones de sus avances, sostuvo que Anthropic sí reconoce la magnitud del problema, pero permanece atrapada en la competencia por desarrollar primero tecnologías cada vez más capaces.

Ante este escenario, Coxon planteó la necesidad de una mayor coordinación entre las empresas de inteligencia artificial y propuso medidas extraordinarias, entre ellas una pausa temporal en el incremento de las capacidades de los modelos. También llamó a los investigadores a cuestionar si el ritmo actual de desarrollo puede mantenerse sin contar con mecanismos sólidos para comprender y controlar estos sistemas.

Las advertencias encontraron eco dentro de Anthropic. Evan Hubinger, investigador de la compañía, respaldó parte de los planteamientos y afirmó que existe una posibilidad real de que una IA avanzada termine provocando la extinción humana. No obstante, distinguió ese escenario de los riesgos asociados con los modelos actuales, que calificó como menores frente al potencial peligro de una superinteligencia capaz de mejorarse de manera recursiva.

Las preocupaciones sobre la seguridad de la IA no son nuevas. En 2023, el investigador Geoffrey Hinton dejó Google para hablar públicamente sobre los riesgos de esta tecnología, mientras que exempleados de OpenAI también han cuestionado el ritmo de desarrollo y la falta de protección para quienes alertan sobre posibles amenazas.