Drone totalmente autônomo mata soldado humano pela primeira vez

Pela primeira vez, um drone totalmente autônomo, sem supervisão humana, matou um soldado no campo de batalha. De acordo com executivos da indústria de defesa da Ucrânia, isto marca um ponto de viragem na guerra.

O teste único envolveu 10 drones Terminator controlados por IA nas linhas de frente da guerra na Ucrânia. Um soldado russo foi morto.

“Nós tentamos”, diz Alexander Kokhanovsky, o fabricante do drone que forneceu a tecnologia e conduziu a entrevista. novo cientista A declaração foi feita num evento de imprensa organizado pela Embaixada da Ucrânia. “Este é um teste. Nunca o implementamos (de forma mais ampla).”

O teste, realizado há dois anos, utilizou um drone quadricóptero programado para voar em direção às linhas de frente, percorrer de 3 a 5 quilômetros em cerca de 10 minutos e, em seguida, executar um “modo terminador”, no qual um modelo de IA procura e intercepta alvos.

“Acabamos de lançar e sabemos que tudo vai morrer. Tudo o que encontrarmos nesta área específica vai morrer”, disse Kokhanovsky. “Não há nenhuma conexão com o drone, você não pode ver nenhum vídeo nem nada… Qualquer coisa que o drone veja será morto.”

Como não havia como saber o que os drones automatizados viam ou visavam, drones pilotados por humanos foram enviados para a área após o teste para revisar manualmente os resultados. As vítimas incluíram “vários soldados e um caminhão”, disse Kochanovsky. Embora não haja registo de drones autónomos atacando estes alvos, concluiu-se que os drones os mataram.

Kokhanovsky disse que não participou pessoalmente dos testes, que foram realizados por unidades militares não identificadas perto das cidades de Bakhmut e Chasiv Yar, como parte de um contra-ataque ucraniano. O Ministério da Defesa da Ucrânia não respondeu a perguntas sobre a atual posição jurídica relativa aos testes e à utilização de armas totalmente autónomas.

Embora o uso da IA ​​seja comum nas forças armadas de todo o mundo, ajudando a selecionar alvos a partir de enormes montanhas de dados de inteligência ou automatizando certas funções das armas, os humanos estão sempre informados em algum momento. A confissão de Kokhanovsky é a prova mais conclusiva até à data de que as mortes em combate foram causadas exclusivamente pela IA.

Funcionários da indústria de defesa que falaram numa conferência de imprensa na embaixada disseram que, embora o governo ucraniano proíba atualmente o uso de IA nas fases finais da interceção de alvos, nessa altura muitos dispositivos já usaram IA em muitas partes do processo. Kohanovsky disse que o governo reconhece as capacidades crescentes da IA ​​e está consultando as empresas de defesa sobre se as regras deveriam ser mais flexibilizadas.

Um relatório de 2023 sugeriu que drones de ataque ucranianos equipados com inteligência artificial encontravam e atacavam alvos sem assistência humana, mas estavam a ser utilizados contra tanques e outros veículos, em vez de infantaria. Nenhuma vítima humana foi confirmada neste momento.

Embora não exista uma proibição internacional formal de armas autónomas que possam matar sem intervenção humana, o Secretário-Geral da ONU, António Guterres, disse: ano passado “Não há lugar em nosso mundo para sistemas autônomos de armas letais.”

As Nações Unidas disseram que havia preocupações de que tais armas pudessem retirar o julgamento humano da guerra e violar o direito internacional humanitário e os direitos humanos. Existe também o risco de os sistemas autónomos atacarem acidentalmente soldados ou equipamentos do mesmo lado, ou atacarem civis.

A maioria das forças armadas desenvolveu equipamentos que automatizam pelo menos parte do processo de ataque a alvos. Os EUA possuem software que acumula e analisa grandes quantidades de dados díspares e seleciona alvos no campo de batalha para serem atacados por drones, mas em teoria requer verificação humana. Há alegações de que os EUA também estão a desenvolver os chamados drones voadores de guarda-redes e drones navais Whiplash, que podem encontrar e eliminar os seus próprios alvos.

Um relatório de 2021 das Nações Unidas chegou a sugerir que o quadricóptero Kargu-2 fabricado por uma empresa turca no ano anterior poderia ter sido usado para atacar humanos de forma autônoma. de relatório O porta-voz não forneceu detalhes específicos sobre a origem das alegações ou se algum ser humano foi ferido ou morto, mas sugeriu que o Governo de Acordo Nacional (GNA) da Líbia usou drones contra as forças de Haftar em retirada.

O Major Danilo Polozhukno, oficial do 21º Regimento Independente de Sistemas Não Tripulados do III Corpo de exército da Ucrânia, que não estava ciente ou envolvido no teste, disse: novo cientista Seus soldados usam sistemas de controle semiautônomos, mas os humanos estão sempre envolvidos.

“Esses sistemas e plataformas de drones ajudam a simplificar o trabalho dos operadores, pois são capazes de adquirir e rastrear alvos automaticamente, bem como orientá-los de forma autônoma nos últimos metros de aproximação. No entanto, não usamos sistemas de drones totalmente autônomos que selecionam e engajam alvos de forma independente, sem intervenção do operador”, disse Polozukhno. “A Ucrânia leva a sério a sua responsabilidade de cumprir o direito humanitário internacional e proteger os direitos de todos os combatentes. Também toma muito cuidado na tomada de decisões para evitar vítimas civis.”

Maria Rosália Taddeo A Universidade de Oxford afirma que os assassinatos assistidos por IA roubam a dignidade dos soldados e retiram a responsabilidade dos agressores, e devem ser proibidos. “Não é apenas problemático, é assustador”, diz ela. “Queremos ser uma sociedade onde as pessoas matam outras sem envolvimento humano, uma sociedade onde o governo permite que outros sejam mortos?”

Antônio Rei Pesquisadores da Universidade de Exeter, no Reino Unido, afirmam que, embora ataques totalmente autônomos sem envolvimento humano sejam tecnicamente possíveis, eles podem não ser uma ferramenta tão decisiva como muitos pensam.

“É certamente possível que o governo permita isso se for uma vantagem militar”, diz ele. “Mas permanece o facto de que, dos milhões de drones utilizados pelos militares russos e ucranianos na guerra da Ucrânia, muito poucos, se é que existem, são (totalmente) autónomos.”

“Portanto, manter as pessoas sob vigilância constante não é apenas moralmente correto, mas também militarmente mais eficaz neste momento”, disse King.

Kokhanovsky disse que o projeto Terminator não progrediu desde o teste devido às regulamentações ucranianas. Atualmente, ele é CEO da fabricante de drones Aerocenter, mas disse que não esteve envolvido nos testes porque a empresa ainda não havia sido fundada na época. A empresa é uma empresa ucraniana que trabalha no desenvolvimento de drones interceptadores autônomos. Eles são projetados para atingir drones suicidas russos Shahed e destruí-los antes que cheguem a cidades cheias de civis e infraestrutura crítica.

O sistema ALITA da empresa consiste em 16 plataformas de lançamento e está equipado com 64 drones. Concluído até outubro, ele será capaz de monitorar drones que chegam, lançar-se automaticamente e voar em direção a alvos a 450 quilômetros por hora, abatendo tudo, desde pequenos drones até helicópteros.

No entanto, os actuais regulamentos da Ucrânia proíbem a operação totalmente autónoma e exigem que os seres humanos identifiquem o alvo nas fases finais da intercepção. Este modo também requer apenas dois operadores humanos para toda a bateria de 64 drones, reduzindo significativamente a mão de obra.

“Cada passo deste processo pode ser feito manualmente ou automaticamente. O último passo não pode ser feito automaticamente”, disse Kokhanovsky, acrescentando que acredita que as regras deveriam ser alteradas. “Eu adoraria fazer isso”, diz ele.