El jefe de Derechos de la ONU pide garantías internacionales de seguridad de la IA

El jefe de los derechos humanos de las Naciones Unidas, Volker Türk, ha llamado a los gobiernos y las empresas de tecnología a reforzar las salvaguardas en torno a la inteligencia artificial avanzada en un discurso del 7 de septiembre al Consejo de Derechos Humanos de Ginebra, informó Euronews. Su intervención llamó a la cooperación internacional y la verificación independiente, llevando la seguridad de los sistemas cada vez más capaces a un foro responsable de examinar las amenazas a los derechos fundamentales.

Un impulso diplomático para las salvaguardas aplicables

Según el informe, Turk quiere que los países que albergan el desarrollo de la inteligencia artificial y los involucrados en sus cadenas de suministro acuerden sobre los límites. También tiene la intención de contactar con las empresas sobre la reducción de los riesgos que pueden controlar. Estas son demandas de acción, en lugar de la evidencia de que los gobiernos ya han negociado un acuerdo. La distinción será importante cuando se evalúan los anuncios posteriores por parte de los estados o desarrolladores.

La intervención se sitúa junto a un esfuerzo más amplio de la ONU para desarrollar un entendimiento científico compartido. En febrero, el Secretario General António Guterres presentó a la Asamblea General a 40 miembros propuestos para un panel internacional independiente de inteligencia artificial. Sus comentarios publicados describen un organismo destinado a evaluar los impactos en las economías y las sociedades, con expertos que sirven personalmente en lugar de representar gobiernos, empresas u otras instituciones.

Evaluación científica y supervisión legal

Esa declaración de febrero también identificó la arsenalización de la IA como una preocupación principal. Guterres argumentó que una evaluación científica fiable podría establecer qué tecnologías existen y cómo se utilizan, creando una base para discutir las salvaguardas. Esta iniciativa previa proporciona un contexto institucional para el recurso de Turk. No establece que una evaluación técnica produzca automáticamente reglas, poderes de ejecución o acuerdos entre los gobiernos competentes.

La Unión Europea ofrece un ejemplo distinto de un enfoque legislativo. Al aprobar la Ley de IA en mayo de 2024, el Consejo describió un marco que impone obligaciones más fuertes como aumento del riesgo, incluyendo un tratamiento más estricto de los modelos de propósito general que presentan riesgos sistémicos. Su anuncio también destacó un Ayuntamiento de la IA y los órganos de apoyo de expertos. Los sistemas utilizados exclusivamente para fines militares y de defensa estaban entre las exenciones declaradas.

La siguiente prueba es la implementación

La pregunta práctica es cómo los hallazgos científicos, las responsabilidades nacionales y las garantías corporativas pueden convertirse en un fortalecimiento mutuo. La evaluación independiente y la regulación vinculante desempeñan diferentes funciones, mientras que las solicitudes militares introducen un desafío diplomático adicional. La siguiente evidencia que se debe observar es si el alcance de Turk produce compromisos específicos de la compañía o propuestas gubernamentales, y si esas propuestas explican quién verificaría la conformidad y qué ocurriría cuando las garantías acordadas fallecieran.