Diretor de Direitos da ONU pede garantias internacionais de segurança da IA

O chefe dos direitos humanos da ONU, Volker Türk, pediu aos governos e às empresas de tecnologia que reforçassem as salvaguardas em torno da inteligência artificial avançada em 7 de setembro, em um discurso ao Conselho de Direitos Humanos em Genebra, informou Euronews. Sua intervenção apelou à cooperação internacional e à verificação independente, trazendo a segurança de sistemas cada vez mais capazes em um fórum responsável por examinar ameaças aos direitos fundamentais.

Uma pressão diplomática para salvaguardas executáveis

De acordo com o relatório, o Türk quer que os países que hospedam o desenvolvimento da IA e aqueles envolvidos em suas cadeias de suprimentos concordem sobre limites. Ele também pretende entrar em contato com as empresas sobre a redução dos riscos que podem controlar. Estas são exigências de ação, em vez de evidência de que os governos já negociaram um acordo. A distinção será importante ao avaliar as notificações subsequentes por parte dos Estados ou desenvolvedores.

A intervenção assenta ao lado de um esforço mais amplo da ONU para desenvolver entendimento científico compartilhado. Em fevereiro, o Secretário-Geral António Guterres apresentou à Assembleia Geral 40 membros proposto para um painel internacional independente da IA. Seus comentários publicados descrevem um organismo destinado a avaliar os impactos em todas as economias e sociedades, com especialistas que servem pessoalmente em vez de representar governos, empresas ou outras instituições.

Avaliação científica e supervisão jurídica

Essa declaração de fevereiro também identificou a armamentização da IA como uma preocupação importante. Guterres argumentou que uma avaliação científica confiável poderia estabelecer quais tecnologias existem e como elas são usadas, criando uma base para discutir as salvaguardas. Esta iniciativa anterior fornece um contexto institucional para a apelação de Türk. Não estabelece que uma avaliação técnica produz automaticamente regras, poderes de execução ou acordo entre os governos competentes.

A União Europeia oferece um exemplo separado de uma abordagem legislativa. Ao aprovar a Lei da IA em maio de 2024, o Conselho descreveu um quadro que impõe obrigações mais fortes como aumento dos riscos, incluindo um tratamento mais rigoroso dos modelos de propósito geral que apresentam riscos sistêmicos. Seu anúncio também destacou um escritório de inteligência artificial e corpos de apoio especialistas. Os sistemas utilizados exclusivamente para fins militares e de defesa foram entre as exceções declaradas.

O próximo teste é a implementação

A questão prática é como os resultados científicos, as responsabilidades nacionais e as salvaguardas corporativas podem se tornar mutuamente reforçantes. A avaliação independente e a regulamentação vinculativa desempenham funções diferentes, enquanto as solicitações militares apresentam um desafio diplomático adicional. A próxima evidência a ser observada é se o alcance de Türk produz compromissos específicos da empresa ou propostas governamentais, e se essas propostas explicam quem verificaria a conformidade e o que aconteceria quando as garantias acordadas falharem.