La inteligencia artificial tiene un enorme potencial, pero representa graves riesgos si no se regula, advirtió el Secretario General de la ONU, António Guterres, al Consejo de Seguridad este miércoles.
“La IA ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa”, dijo Guterres durante el debate de alto nivel del Consejo sobre las implicaciones de seguridad de esta tecnología en la transformación de la guerra.

“La pregunta no es si la IA influirá en la paz y seguridad internacionales, sino cómo daremos forma a esa influencia.”
Usada de manera responsable, dijo el jefe de la ONU, la IA puede ayudar a anticipar la inseguridad alimentaria, apoyar las operaciones de desminado y detectar brotes de violencia antes de que se salgan de control.
“Pero sin salvaguardias, también puede ser militarizada,” advirtió, señalando el uso de la IA para dirigir ataques en conflictos recientes, ciberataques contra infraestructuras críticas y el uso de deepfakes capaces de alimentar la polarización o descarrilar la diplomacia.
“La capacidad de fabricar y manipular audio y video amenaza la integridad de la información, alimenta la polarización y puede desencadenar crisis diplomáticas… el destino de la humanidad no puede quedar en manos de un algoritmo,” subrayó.
Las decisiones deben recaer en nosotros Guterres estableció cuatro prioridades para los gobiernos: mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la información y cerrar lo que denominó la "brecha de capacidad en materia de IA" entre los países ricos y los pobres.
“Reitero mi llamado a prohibir los sistemas de armas autónomas letales que operan sin control humano, con miras a concluir un instrumento jurídicamente vinculante para el próximo año,” afirmó.
También insistió en que las decisiones sobre armas nucleares “deben quedar en manos de los seres humanos, no de las máquinas.”
El Secretario General destacó medidas ya en marcha, como la creación de un panel científico independiente sobre IA y un nuevo diálogo global sobre gobernanza de la IA, que se llevará a cabo en Nueva York el jueves.
“Estas iniciativas buscan conectar la ciencia, las políticas y la práctica; ofrecer a cada país un lugar en la mesa; y reducir la fragmentación,” explicó. SEGUIR LEYENDO