La ONU y las amenazas de nuestro tiempo

Al abrir el debate de la Asamblea de las Naciones Unidas este 22 de septiembre, António Guterres, Secretario General, pronunció el último discurso de sus dos mandatos. Habló de guerras, desigualdad y cambio climático, ubicó la inteligencia artificial entre las herramientas decisivas del poder. Describió su concentración en datos, capacidad de cómputo y algoritmos, y observó que una parte del poder antes ejercido por los gobiernos está siendo transferido a unas pocas empresas privadas y a sus dirigentes. Es el diagnóstico del poder tecnopolítico global en la tribuna universal.

La humanidad enfrenta dos riesgos que requieren cooperación y acción urgentes. Una escalada entre potencias que podría desembocar en una gran guerra y sistemas de IA cuyas capacidades crecen más rápido que las garantías para dirigirlos y controlarlos. Ni una tercera guerra mundial ni una pérdida general de control humano de la IA son hechos consumados. Y porque no lo son, todavía, podemos construir límites.

La alarma tecnológica tiene hechos concretos e hipótesis válidas. El Panel Científico Internacional Independiente sobre IA,  examinó en septiembre un incidente ocurrido durante pruebas de agentes de IA. Advirtió sobre fallas de supervisión y sobre riesgos que podrían agravarse con sistemas más capaces. El informe distingue expresamente lo observado ahora,  de lo que podría suceder en el futuro. No anuncia una catástrofe inevitable. El 23 de septiembre, el Consejo de Seguridad discutió la relación entre IA y seguridad internacional,  señal de que el problema ha salido de los laboratorios para entrar en la política mundial.

La ONU no parte de cero, se adelantó a la situación que atemoriza al mundo. Tiene un Pacto Digital Global, un diálogo sobre gobernanza de la IA y un panel científico independiente. Guterres pidió en la Asamblea General avanzar hacia un marco multilateral de gestión de riesgos con vigilancia confiable e independiente. Pero el panel actual estudia el ámbito no militar y ninguna de estas iniciativas se orienta, todavía, a la autoridad que sea capaz de exigir pruebas, conocer incidentes graves e imponer obligaciones comunes a los desarrolladores de sistemas de riesgos severos. Es urgente llenar este vacío mediante acuerdos entre Estados y mecanismos de participación pública. Necesitamos un órgano de gobernanza de la IA que responda al interés de la humanidad y no solo al de empresas poderosas que compiten por el dinero o a potencias que lo hacen por el dominio global.

No es fácil en momentos en que la ONU está en crisis de eficacia ante las guerras que nos flagelan. La comparación con el control nuclear es útil si se entiende bien. La Agencia Internacional de Energía Atómica no impidió toda carrera armamentista, pero ayudó a crear un compromiso de inspección, verificación y responsabilidad internacional. La IA presenta una dificultad distinta: sus programas pueden copiarse y operar a través de fronteras. Por ello necesitamos evaluaciones externas de los sistemas más potentes, comunicación obligatoria de incidentes, registro de capacidades de alto riesgo y facultades legales para limitar despliegues cuando las pruebas revelan peligros graves. Las empresas deben aportar información y conocimientos; no pueden ser sus propios árbitros. El interés es de todos y el Perú como América Latina no deben estar ausentes de estas decisiones urgentes.

El otro frente exige afirmar con contundencia la función originaria de las Naciones Unidas: prevenir guerras y facilitar el arreglo pacífico de los conflictos. La Carta de la ONU ya prevé negociación, mediación, conciliación y arbitraje. Es necesario activar esos instrumentos antes de que la crisis se agrave, dotarlos de recursos y reformar el Consejo de Seguridad para que el veto no paralice sus  respuestas. Ninguna institución puede representar a la humanidad si sus decisiones dependen exclusivamente del pulso entre potencias y de sus afanes de poder y dominación. Esta visión global defensiva ha estado casi ausente en los discursos de los gobernantes de América Latina y en el del Perú. Solo Lula se refirió al marco tecnológico global e institucional de los problemas regionales y nacionales.

Debe ampliarse la representación en la gobernanza tecnológica. Los países en desarrollo, la comunidad científica independiente, los parlamentos y las organizaciones de la sociedad necesitan canales efectivos de intervención. Los gobiernos conservan la obligación de proteger a sus pueblos que no son solo  usuarios de productos o fuentes de datos. La titularidad de los datos y la protección de los derechos digitales forman parte de este debate sobre el poder.

El Perú llevó a la Asamblea la urgencia del crimen organizado transnacional, una preocupación legítima del continente. Esa voz debe sumarse a un pacto  regional más amplio que vincule seguridad, autonomía tecnológica y reforma multilateral. Nuestra región tiene interés en que las reglas sobre IA no las dicte una sola potencia, un conjunto de poderosas empresas o un pequeño círculo de países.

Salvar a la ONU, fortalecer su capacidad de actuar y someterla a la misma exigencia de legitimidad que pedimos para cualquier nuevo organismo. El discurso de Guterres no describe el fin de la organización. Nos recuerda para qué fue creada y por qué necesita cambiar: para que la paz y el futuro tecnológico no sean decididos sin los pueblos. Peor aún, por las máquinas.