O Projeto Maven começou em 2017 como uma ferramenta para coletar imagens de drones
Devon Bistarkey, Unidade de Inovação em Defesa
especialista em projetos
Katrina Manson, WW Norton
Os militares israelitas estão a utilizar inteligência artificial para identificar alvos na Faixa de Gaza, os Estados Unidos estão a fazer o mesmo com o Irão e a Ucrânia está a desenvolver drones inteligentes. A guerra de IA não é um conflito futuro, é o presente.
Desvendar a política global, os benefícios potenciais, as armadilhas e a ética obscura do uso militar da IA preencherá livros nas próximas décadas. Mas não é isso que Katrina Manson está tentando fazer especialista em projetos. Em vez disso, ela utiliza entrevistas com mais de 200 pessoas para contar a história da jornada militar dos EUA rumo à guerra de IA, ou de um dos 800 projetos de IA escondidos no Pentágono.
Em 2017, o Projeto Maven foi lançado para construir ferramentas para analisar imagens de drones e extrair informações úteis. Os drones estavam coletando mais dados do que os humanos poderiam interpretar. Manson disse que Maybin teve um começo difícil. Oito meses após o início do projeto, os militares enviaram-no com soldados para a Somália, e o algoritmo disse aos analistas que havia autocarros escolares nas nuvens e pessoas nas árvores.
Seguimos um líder de projeto de volta no tempo, até seus dias como oficial de inteligência no Afeganistão, enquanto ele tenta planejar missões e comandar tropas usando nada além de um laptop empoeirado com o Microsoft Office. Quem são os inimigos, onde está a segurança e como é o sucesso?
As pessoas na guerra são ineficientes, cansadas e cometem erros. A névoa da guerra poderia ser dissipada pela IA, acreditavam os arquitetos do geralmente secreto Projeto Maven que conversaram com Manson. Mas eles pretendiam que fosse ainda mais profundo. Trata-se de escolher um alvo, caçá-lo e matá-lo. Sem a tomada de decisão lenta e deliberada dos humanos, os robôs assassinos podem rapidamente dominar os seus oponentes.
“Sempre matamos as pessoas erradas. As máquinas não podem ser piores que os humanos”, disse uma fonte. A equipe desenvolveu o Maven em uma série de ferramentas e tentou convencer as pessoas na linha de frente a adotá-las. Embora os resultados tenham melhorado, ainda ocorreram erros.
Desde então, os Estados Unidos e outros membros da OTAN mobilizaram Maven em conflitos. Cerca de 32 empresas estão trabalhando nisso, disse Munson, e 25 mil usuários militares dos EUA fazem login regularmente. Mas ela também disse que foi usado em passagens de fronteira e durante caçadas a traficantes de drogas no Caribe. Pode um Estado com tal ferramenta resistir à sua utilização contra os seus cidadãos?
O mais preocupante, disse Munson, é que está em andamento um trabalho para excluir completamente os humanos. Os chamados drones voadores de goleiro ou drones navais de chicote podem encontrar e eliminar seus próprios alvos. E os humanos nunca inventaram ou usaram armas.
Não posso deixar de pensar no tenente-coronel soviético Stanislav Petrov, que em 1983 considerou que um relatório sobre o lançamento de um míssil dos EUA era um alarme falso, evitando uma guerra nuclear total. Uma IA fará essa ligação?
Apesar de muitos insights interessantes sobre Maven, o livro é menos sobre IA e mais sobre a burocracia do Pentágono e a disposição do Vale do Silício de assumir qualquer projeto, não importa quão desagradável seja, se o dinheiro for adequado. Embora o acesso ao Sr. Manson seja extraordinário, a natureza do segredo militar significa que provavelmente não saberemos exactamente durante muitos anos que tecnologia o governo dos EUA criou e como e quando está a ser usada.
A guerra sempre foi profundamente desagradável, mas os conflitos modernos, nos quais os humanos monitorizam alguém a milhares de quilómetros de distância com drones e decidem se um ataque mortal é necessário, desumanizaram a guerra. Se deixarmos isto para a IA, corremos o risco de tornar as guerras mais fáceis de travar e os seus efeitos mais fáceis de ignorar.
“
O drone voador goleiro e o drone naval Whiplash podem encontrar e derrotar seus próprios alvos
“
Precisamos garantir que o poder conferido pelas armas de IA seja tratado com o peso que merece, mas Manson nos contou uma história arrepiante que sugere que a realidade é outra. Um entrevistado que queria ingressar no Projeto Maven teria dito ao painel que sua motivação era “reduzir a população não americana” e então aceitou o cargo.
Mais duas ótimas leituras sobre IA e guerra
Nascimento da bomba atômica Escrito por Richard Rose
Há muitas lições aqui sobre o rumo que a IA militar está tomando. Tal como o Projecto Manhattan, ameaça aumentar permanentemente as tensões globais e aumentar o risco de guerra, para começar.
Os robôs assassinos deveriam ser banidos??Escrito por Dean Baker
O professor de ética investiga o debate, que se concentra nas questões espinhosas de confiança, controle e responsabilidade quando os governos entregam os empregos dos soldados aos computadores.
tópico:
