Las Naciones debaten sobre el futuro de las Armas de IA en la ONU

Las naciones se reunieron en la Asamblea General de la ONU en Nueva York el lunes para discutir el futuro de las armas autónomas controladas por IA y las posibles regulaciones que rigen su uso. Los expertos advierten sobre una creciente urgencia, citando tanto la falta de consenso internacional como el tiempo limitado.

Según Reuters, la IA ya está desempeñando un papel significativo en los conflictos actuales, particularmente en regiones como Ucrania y Gaza. Hace unos meses, Ucrania reveló que había recopilado alrededor de 2 millones de horas de material de campo de batalla para entrenar sistemas de IA.

Los marcos regulatorios para las tecnologías de IA están luchando por mantener el ritmo. Aunque las discusiones sobre armas autónomas han estado en curso en la Convención sobre Ciertas Armas Convencionales (CCW) en Ginebra desde 2014, hasta la fecha no se han establecido regulaciones globales vinculantes.

El Secretario General de la ONU, António Guterres, ha establecido 2026 como el objetivo para alcanzar un consenso internacional sobre un nuevo marco legal.

“Realmente se nos acaba el tiempo para establecer algunas barreras de seguridad para evitar que se cumplan los escenarios de pesadilla de los que advierten algunos de los expertos más reconocidos”, dijo Alexander Kmentt, jefe de control de armas del ministerio de relaciones exteriores de Austria, a Reuters.

Además de las armas autónomas, las reuniones de esta semana abordarán otros temas críticos como los derechos humanos y las preocupaciones éticas, y la participación de actores no estatales. Mientras que la mayoría de los países apoyan la creación de un marco global vinculante, otros, como China, Estados Unidos, India y Rusia, prefieren confiar en las leyes internacionales existentes o las directrices nacionales.

Varias organizaciones, incluyendo Human Rights Watch, han expresado preocupación por la proliferación de armas autónomas no reguladas en diversas regiones. El Future of Life Institute ha identificado aproximadamente 200 sistemas de armas autónomas en uso en lugares como África, Oriente Medio y Ucrania.

“Generalmente no confiamos en que las industrias se autorregulen… No hay ninguna razón por la cual las empresas de defensa o tecnología deberían ser más dignas de confianza”, dijo la activista Laura Nolan de Stop Killer Robots a Reuters.

El uso de IA y sistemas autónomos para desarrollar armas está ganando terreno en la industria tecnológica. Google levantó su prohibición del uso de IA para armas hace unos meses, investigadores chinos han estado utilizando el modelo Llama de Meta para aplicaciones militares, y la startup Theseus recientemente recaudó $4.3 millones para desarrollar drones autónomos.