Premios Nobel, científicos y especialistas en inteligencia artificial (IA) lanzaron un llamado global para que los gobiernos implementen regulaciones estrictas y coordinadas sobre la IA, destacando la necesidad de prevenir riesgos catastróficos antes de que ocurran. La iniciativa, firmada por más de 200 expertos y 70 organizaciones, busca establecer un marco internacional vinculante que trace “líneas rojas” para el desarrollo de sistemas de IA.

Maria Ressa, premio Nobel de la Paz, presentó la propuesta en la reunión de alto nivel de la Asamblea General de la ONU. “Es vital que los países acuerden límites que la IA nunca pueda cruzar. No se trata de reaccionar después de un desastre, sino de prevenirlo”, señaló Charbel Segerie, director ejecutivo del Centro Francés para la Seguridad de la IA.

Los especialistas advierten que el desarrollo de la llamada inteligencia artificial general (IAG) —una IA capaz de superar las capacidades humanas— avanza rápidamente gracias a inversiones millonarias de empresas como Meta, Google y OpenAI. Stuart Russell, profesor de la Universidad de Berkeley, advirtió que estos sistemas pueden perseguir objetivos por sí mismos, lo que los hace intrínsecamente inseguros. “Existe una probabilidad significativa de un evento catastrófico comparable a Chernóbil, e incluso escenarios de pérdida total de control humano”, alertó Russell.

La propuesta plantea que los desarrolladores demuestren la seguridad de sus sistemas de IA antes de lanzarlos al mercado, siguiendo estándares similares a los de medicamentos o centrales nucleares. Niki Iliadis, directora de Gobernanza Global de IA en The Future Society, señaló que aunque existen avances en regulaciones regionales, como el código de la Unión Europea, es imprescindible contar con normas internacionales claras y mecanismos de supervisión que aseguren el cumplimiento.

Además de prevenir riesgos técnicos, los expertos subrayan la importancia de la cooperación global para evitar que la IA sea utilizada en sabotajes de infraestructura crítica, sistemas financieros o comunicaciones. La iniciativa también contempla la creación de una nueva institución internacional encargada de monitorear y sancionar violaciones a las normas, asegurando que la tecnología se desarrolle de manera segura y ética.

La comunidad científica internacional coincide en que la velocidad del avance tecnológico supera la capacidad regulatoria actual, y advierte que la inacción podría derivar en consecuencias irreversibles para la humanidad. La propuesta será debatida en las próximas semanas durante la Asamblea General de la ONU, buscando generar un acuerdo global histórico en materia de IA.