O Alto Comissariado das Nações Unidas para os Direitos Humanos disse ao Conselho de Direitos Humanos em Genebra que a inteligência artificial avançada poderia representar riscos existenciais para a humanidade.
Ele também apelou aos países que acolhem o desenvolvimento da inteligência artificial e participam nas suas cadeias de abastecimento para chegarem a acordo sobre linhas vermelhas internacionais sobre o que a tecnologia não deve ser autorizada a fazer.
Volker Türk alertou durante a atualização global da 63ª sessão do Conselho que De acordo com a AFP.
Ele descreveu ameaças “desconhecidas e até sem precedentes” aos direitos humanos e levantou questões de governação sem rodeios:
“A necessidade de governação da IA é amplamente reconhecida, mas onde está a ação?”
Em vez de parar as suas críticas a nível nacional, ele apontou para a centralização do controlo.
“Um pequeno número de pessoas tem poder quase ilimitado sobre a inteligência artificial”, disse ele. Ele nomeou empresas relacionadas, como OpenAI, Anthropic e Meta, e descreveu o envolvimento direto com essas empresas como uma meta que seu escritório pretende perseguir, em vez de cuidar de tudo por meio do governo.
A linha mais específica envolve limites de competência.
“A IA que escapa dos ambientes de teste ou chantageia os desenvolvedores para evitar ser desligada é muito poderosa”, disse Turck. A formulação parece menos uma hipótese e mais uma descrição dos últimos seis meses.
Ambos os exemplos documentam antecedentes. Em julho, a OpenAI confirmou que um de seus modelos saiu da sandbox e atingiu o Hugging Face, um incidente que gerou pedidos de preservação de evidências de 15 procuradores-gerais estaduais.
O comportamento do tipo ransomware apareceu em avaliações de modelos publicadas por vários laboratórios. Türk não atribui estes dois exemplos a um sistema de nomenclatura.
Seu pedido vai além da maioria dos textos da ONU sobre o assunto. Além das linhas vermelhas, ele também apelou a salvaguardas rigorosas sobre a segurança e proteção da IA, o estabelecimento de mecanismos de verificação independentes em vez de auto-relatos, e uma avaliação do impacto da IA no emprego, na democracia e no ambiente.
A verificação independente é a parte da indústria que apresenta resistência mais consistente.
A necessidade em si não é nova. esse Chamada global para linha vermelha de inteligência artificialLançado na Assembleia Geral da ONU em Setembro de 2025 e assinado por mais de 200 pessoas, incluindo 10 laureados com o Nobel, exige que os governos concordem com limites vinculativos até ao final de 2026, a serem aplicados por um órgão independente.
Faltam quatro meses para o prazo, mas ainda não existe tal acordo.
O diagnóstico também não é novidade para as Nações Unidas. Em Julho, o secretário-geral disse isto no Diálogo Global sobre a Governação da Inteligência Artificial, em Genebra, onde o próprio painel científico da organização divulgou um relatório preliminar concluindo que as capacidades da IA estão a crescer para além da compreensão necessária para governá-la.
As mudanças que ocorrem entre julho e setembro são a base de evidências. O argumento redline costumava confiar na extrapolação. Agora depende, em parte, de relatórios de incidentes.
A Europa é uma jurisdição que estabeleceu limites em leis vinculativas, embora não seja isso que Türkiye está a pedir.
esse Práticas Proibidas pela Lei de Inteligência Artificial A partir de 2 de fevereiro de 2025, são possíveis multas de até 35 milhões de euros ou 7% do volume de negócios global, que é o nível mais alto do regulamento.
Eles proíbem a pontuação social, a captura de imagens faciais não direcionadas, o reconhecimento de emoções em locais de trabalho e escolas e a biometria remota em tempo real para a polícia, com mais duas proibições previstas para dezembro.
Cada um deles está preocupado em saber como a inteligência artificial pode ser aplicada aos humanos. Não há solução para a capacidade que um sistema pode ter, que é o limite descrito por Türk.
Se o Conselho de Direitos Humanos é o fórum onde tal conteúdo surge é uma questão separada.
Não pode vincular os países; os países com os maiores criadores de IA não têm obrigação de participar, e o estatuto jurídico de quem deve ser responsabilizado quando os sistemas autónomos agem por conta própria permanece incerto.
Tudo o que o escritório pode fazer é nomear as empresas (que foi o que Türk fez) e definir limites de arquivamento.
