A autorregulação voluntária das empresas que desenvolvem inteligência artificial (IA) de fronteira está « muito longe de ser suficiente » para enfrentar os danos existentes e impedir que modelos autónomos avançados contornem as salvaguardas humanas, escreveu na segunda-feira o Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk.

« A corrida atual por uma IA cada vez mais poderosa representa uma mudança de patamar rumo a maiores riscos existenciais para todos os aspetos das nossas vidas », escreveu numa carta aberta.

A mensagem do Alto Comissário surge seis dias depois de um antigo investigador da Anthropic – empresa responsável pelo chatbot Claude – ter deixado o cargo alertando que « as pessoas que estão construindo IA acreditam sinceramente que ela poderia matar todos nós até ao final da década ».

Vários incidentes recentes, incluindo a demissão de Jacob Coxon e anúncios da OpenAI e da Anthropic de que os seus modelos escaparam de ambientes de teste, intensificaram o debate global sobre até que ponto os governos devem regular a tecnologia.

Nenhum país pode agir sozinho

Türk pediu aos países que acolhem empresas de IA de fronteira que reforcem a regulamentação, incluindo a obrigação de comunicar incidentes graves, verificar as capacidades dos sistemas de IA e realizar diligência devida em matéria de direitos humanos.

Também instou os Estados-Membros a trabalhar em conjunto, por meio de instituições multilaterais, para construir um consenso global sobre a governação da IA e proteger os direitos humanos diante dos riscos associados à tecnologia.

« Nenhum país pode governar esta tecnologia sozinho », escreveu. « Nenhuma empresa deve poder decidir por si só quais riscos o mundo deve aceitar. Nenhuma pessoa deve ser obrigada a renunciar aos seus direitos humanos em troca de promessas de progresso tecnológico. »

« Moderar a fronteira »

O CEO da Anthropic, Dario Amodei, publicou no sábado um ensaio intitulado We Must Pace the Frontier, defendendo que as empresas continuem a avançar no desenvolvimento da IA, mas reservem o tempo necessário para garantir salvaguardas suficientes que impeçam « sistemas agênticos » de sair de controlo.

Líderes da OpenAI, Google e xAI manifestaram concordância com a proposta de Amodei, que inclui avaliações de modelos de IA por terceiros, maior coordenação entre empresas do setor e cooperação entre governos.

Türk acolheu especificamente a proposta de Amodei e, de forma mais ampla, a autorregulação da indústria, mas acrescentou que os governos também precisam agir urgentemente para regular a tecnologia.

Sem « corrida para o fundo »

« O pequeno grupo de Estados que acolhe as principais empresas de IA de fronteira tem a obrigação especial de exigir que essas empresas atuem de forma responsável e de responsabilizá-las caso não o façam », escreveu o Alto Comissário.

Ao identificar empresas na China e nos Estados Unidos como estando « na vanguarda » da IA de fronteira, Türk reconheceu a necessidade de padrões internacionais e de alinhamento para reduzir os incentivos a uma corrida armamentista de IA entre os dois países.

« Eles precisam alinhar as suas abordagens para que a concorrência entre jurisdições não incentive uma corrida para o fundo », escreveu.

Segundo Türk, os riscos e a governação da IA devem ser avaliados principalmente pelo seu impacto nos direitos humanos.

Para além de impedir que a IA destrua a humanidade, a segurança da IA significa proteger ativamente pessoas, comunidades, instituições e gerações futuras.

Pessoas acima do lucro

Türk rejeitou o argumento da indústria de que as proteções de segurança da IA atrasam a inovação, afirmando que ninguém deve ser forçado a abrir mão dos seus direitos humanos para permitir o progresso.

Segundo ele, os direitos à vida, alimentação, privacidade, saúde e segurança já estão ameaçados pelo desenvolvimento não controlado da IA.

Se a IA continuará a facilitar a desinformação e uma automação desigual ou se será usada para enfrentar a crise climática e curar doenças depende de como empresas e governos responderão ao atual « momento decisivo », afirmou Türk.

« A geração que agora entra na idade adulta herdará as consequências das decisões tomadas sobre esta questão sem ter tido voz nelas », escreveu. « Devemos a essa geração garantir que essas decisões sejam tomadas abertamente, com os seus direitos em consideração e com a humildade que a dimensão deste desafio exige. »