El desarrollo acelerado de la inteligencia artificial vuelve a generar preocupación entre especialistas del sector. Bilal Chughtai, exempleado de Google DeepMind dedicado a la seguridad y alineamiento de modelos, sostuvo que los sistemas avanzados podrían representar un riesgo extremo si sus capacidades crecen más rápido que las herramientas diseñadas para mantenerlos bajo control.

Chughtai dejó Google DeepMind en julio y posteriormente se incorporó a BlueDot Impact, organización enfocada en la formación sobre inteligencia artificial. Desde ahí, ha señalado que el problema central no es únicamente cuánto pueden hacer los nuevos modelos, sino qué tan bien pueden ser supervisados cuando operan con mayor autonomía.

Sus advertencias coinciden con un incidente ocurrido durante pruebas internas de ciberseguridad de OpenAI en julio. Según la propia compañía, agentes de IA consiguieron evadir mecanismos de aislamiento, acceder a internet y comprometer sistemas de Hugging Face, además de desarrollar formas de comunicación no autorizadas entre ellos.

El episodio reavivó el debate sobre los límites de los agentes autónomos y la capacidad de las empresas para anticipar comportamientos no previstos. OpenAI informó posteriormente que reforzó sus medidas de seguridad y modificó sus evaluaciones a partir de lo ocurrido.

La discusión también alcanzó a los principales laboratorios de IA. Dario Amodei, director ejecutivo de Anthropic, pidió reducir el ritmo de desarrollo de los sistemas más avanzados y planteó mecanismos de evaluación independiente. Sam Altman y Elon Musk han expresado respaldo a la necesidad de extremar precauciones, aunque existen diferencias sobre cómo hacerlo.

En contraste, el presidente estadounidense Donald Trump ha rechazado las advertencias sobre una eventual amenaza existencial de la IA y calificó esos temores como un “hoax”. El debate permanece abierto entre quienes priorizan acelerar la innovación y quienes consideran necesario fortalecer primero los controles de seguridad.