Los principales desarrolladores de inteligencia artificial (IA) exploran mecanismos para establecer límites de seguridad en una industria cuyo crecimiento acelerado ha incrementado las preocupaciones sobre posibles riesgos asociados con sistemas cada vez más avanzados.

La discusión cobró fuerza después de que Dario Amodei, CEO de Anthropic, planteara reducir el ritmo de desarrollo de los modelos más avanzados y acompañar su evolución con mayores controles de evaluación y seguridad.

La propuesta recibió respaldo de figuras relevantes del sector, entre ellas Sam Altman, director ejecutivo de OpenAI, y Demis Hassabis, responsable de la división de inteligencia artificial de Google. Altman reconoció que el desarrollo tecnológico continuará avanzando, pero consideró que la velocidad debería moderarse frente a los riesgos potenciales.

Amodei planteó un esquema de tres pasos para evitar que las capacidades de los sistemas de IA crezcan más rápido que los mecanismos destinados a controlar sus posibles efectos. Entre sus preocupaciones se encuentra el llamado desalineamiento de los modelos, es decir, que su comportamiento se aleje de los objetivos establecidos por sus desarrolladores.

El debate también contempla la posibilidad de crear un organismo independiente de autorregulación que establezca estándares comunes de seguridad para las compañías del sector. De acuerdo con información citada por The Washington Post, Anthropic, OpenAI y Google ya habían mantenido conversaciones sobre esta alternativa.

La iniciativa surge en un contexto de creciente competencia entre las grandes empresas tecnológicas por desarrollar modelos con mayores capacidades. Algunos episodios recientes relacionados con el comportamiento de agentes de IA han reforzado el debate sobre la necesidad de establecer evaluaciones y salvaguardas antes de ampliar sus funciones.

El objetivo de estas propuestas no sería detener el desarrollo tecnológico, sino establecer mecanismos de seguridad que avancen al mismo ritmo que las capacidades de los sistemas de inteligencia artificial.