+ La inteligencia artificial avanza más rápido que la regulación global.

+ ONU pide normas internacionales para proteger a niños, trabajadores y ciudadanos.

+ Riesgos y advertencias principales

El Secretario General de la ONU, António Guterres, ha señalado que la IA se está desarrollando a un ritmo que supera la capacidad de los gobiernos para regularla, lo que podría reducir la influencia de los Estados y de la sociedad sobre sus efectos. La tecnología evoluciona hacia sistemas cada vez más autónomos capaces de razonar, planificar y actuar en distintos contextos, lo que plantea riesgos en economía, seguridad, derechos humanos y empleo. Entre los peligros identificados se incluyen la generación de desinformación, deepfakes, ciberataques, material de abuso sexual infantil y efectos negativos en la salud mental.

Necesidad de regulación y gobernanza global

La ONU enfatiza la urgencia de establecer normas armonizadas a nivel mundial que incluyan control humano sobre armas, protección de la información y equidad tecnológica. Se propone un Compromiso de Seguridad Infantil en IA, que obligue a las empresas a garantizar la seguridad de los menores antes de permitirles interactuar con sistemas de IA. Además, se busca evitar que la IA genere contenido sexual de niños y que tome decisiones críticas sin supervisión humana.

Concentración tecnológica y desigualdad

El desarrollo de la IA está concentrado en pocos países y empresas: Estados Unidos controla aproximadamente el 75% de la capacidad de cómputo de los superordenadores de IA más potentes, y China cerca del 15%. Esta concentración puede ampliar las desigualdades globales, limitando el acceso de países en desarrollo a la tecnología y sus beneficios.

Iniciativas de la ONU

Para enfrentar estos desafíos, la ONU ha creado el Panel Científico Internacional Independiente sobre IA y el Diálogo Global sobre Gobernanza de la IA, con el objetivo de establecer estándares internacionales, auditar sistemas y fomentar la cooperación global. Estas iniciativas buscan conectar ciencia, política y práctica, ofreciendo a cada país un lugar en la toma de decisiones y reduciendo la fragmentación en la gobernanza de la IA .

Beneficios potenciales

A pesar de los riesgos, la ONU reconoce que la IA puede ser un motor de desarrollo si se utiliza adecuadamente, acelerando descubrimientos científicos, mejorando diagnósticos médicos, apoyando la educación y contribuyendo a la seguridad alimentaria. Sin embargo, estos beneficios dependen de una regulación efectiva, inversión en infraestructura y capacitación, y de la participación equitativa de todos los países.
En resumen, la ONU advierte que la IA puede transformar la sociedad de manera positiva o negativa, y subraya que la acción internacional coordinada es urgente para garantizar que sus beneficios se distribuyan de manera justa y sus riesgos se controlen antes de que se vuelvan incontrolables.