Le chef des droits de l'ONU appelle à des garanties internationales d'IA

Le chef des droits de l'homme de l'ONU, Volker Türk, a appelé les gouvernements et les entreprises technologiques à renforcer les garanties autour de l'intelligence artificielle avancée dans un discours du 7 septembre au Conseil des droits de la personne à Genève, a rapporté Euronews. Son intervention a appelé à la coopération internationale et à la vérification indépendante, en mettant la sécurité des systèmes de plus en plus capables dans un forum responsable de l'examen des menaces aux droits fondamentaux.

Une pression diplomatique pour des garanties exécutoires

Selon le rapport, Türk veut que les pays qui accueillent le développement de l'IA et ceux qui sont impliqués dans ses chaînes d'approvisionnement soient d'accord sur les limites. Il a également l’intention de contacter les entreprises sur la réduction des risques qu’ils peuvent contrôler. Ce sont des exigences d’action, plutôt que des preuves que les gouvernements ont déjà négocié un accord. La distinction sera importante lors de l'évaluation des annonces ultérieures par les États ou les développeurs.

L’intervention s’inscrit à côté d’un effort plus large de l’ONU pour développer une compréhension scientifique partagée. En février, le secrétaire général António Guterres a soumis à l’Assemblée générale 40 membres proposés pour un panel international indépendant de l’IA. Ses remarques publiées décrivent un organisme destiné à évaluer les impacts dans les économies et les sociétés, avec des experts qui servent personnellement plutôt que de représenter les gouvernements, les entreprises ou d'autres institutions.

Évaluation scientifique et surveillance juridique

Cette déclaration de février a également identifié l'armes de l'IA comme une préoccupation majeure. Guterres a argumenté que une évaluation scientifique fiable pourrait établir quelles technologies existent et comment elles sont utilisées, créant une base pour discuter des garanties. Cette initiative antérieure fournit un contexte institutionnel pour l’appel de Turk. Il ne prévoit pas qu'une évaluation technique produise automatiquement des règles, des pouvoirs d'exécution ou des accords entre les gouvernements compétents.

L’Union européenne propose un exemple distincte d’une approche législative. Lors de l'approbation de la Loi sur l'IA en mai 2024, le Conseil a décrit un cadre qui impose des obligations plus fortes en raison de l'augmentation des risques, y compris un traitement plus strict des modèles à but général présentant des risques systémiques. Son annonce a également souligné un bureau d'IA et des organismes d'experts de soutien. Les systèmes utilisés exclusivement à des fins militaires et de défense étaient parmi les exemptions déclarées.

Le prochain test est la mise en œuvre

La question pratique est de savoir comment les résultats scientifiques, les responsabilités nationales et les garanties des entreprises peuvent devenir mutuellement renforcantes. L'évaluation indépendante et la réglementation contraignante exercent différentes fonctions, tandis que les demandes militaires introduisent un défi diplomatique supplémentaire. La prochaine preuve à observer est si l'expérience de Turk produit des engagements spécifiques de la société ou des propositions gouvernementales, et si ces propositions expliquent qui vérifierait la conformité et ce qui arriverait si les garanties convenues échouent.