Deveríamos nos preocupar com a possibilidade de a IA criar armas biológicas mortais? Ainda não, mas talvez algum dia?

A inteligência artificial promete transformar a biologia, permitindo-nos conceber melhores medicamentos, vacinas e até organismos sintéticos para consumir resíduos de plástico. Mas alguns temem que também possa ser usado para fins mais obscuros: criar armas biológicas que passam despercebidas pelos métodos convencionais até que seja tarde demais. Então, quão preocupados deveríamos estar?

“Os avanços na IA estão impulsionando avanços na biologia e na medicina”, diz ele. Eric Horvitzdiretor científico da Microsoft. “Com o novo poder vem a responsabilidade da vigilância.”

Sua equipe publicou um estudo que analisou se a IA poderia projetar proteínas que fazem a mesma coisa que proteínas conhecidas por serem perigosas, mas são diferentes o suficiente para não serem reconhecidas como perigosas. Os investigadores não disseram que proteínas tentaram redesenhar (partes do seu trabalho foram mantidas em segredo), mas provavelmente incluíam toxinas como a ricina, que foi famosamente utilizada no assassinato de 1978, ou Clostridium botulinum, uma poderosa neurotoxina mais conhecida como Botox.

Para produzir uma proteína como a botulínica em grandes quantidades, você precisa de uma receita ou do DNA que a codifica. Quando os biólogos precisam de um determinado fragmento de DNA, eles normalmente o encomendam a uma empresa especializada na fabricação do fragmento de DNA desejado.

As preocupações de que o potencial bioterrorismo pudesse encomendar receitas para fabricar armas biológicas desta forma levaram algumas empresas de síntese de ADN a examinar voluntariamente as encomendas para ver se alguém está a tentar fabricar algo perigoso. Proteínas são sequências de aminoácidos e verificações de triagem para ver se a sequência de aminoácidos corresponde a uma “sequência preocupante” ou a uma arma biológica em potencial.

Mas com a IA, é teoricamente possível conceber versões de uma proteína que desempenhem a mesma função, embora tenham sequências de aminoácidos diferentes. Horvitz et al. tentaram isso com 72 proteínas potencialmente perigosas e mostraram que os métodos de triagem muitas vezes ignoravam essas versões alternativas.

Isso não é tão alarmante quanto você imagina. Primeiro, a equipe não criou realmente a proteína redesenhada, por razões óbvias. Mas outro estudo no início deste ano testou uma versão redesenhada da proteína inofensiva. Acontece que eles não funcionam..

Em segundo lugar, embora tenham sido tentados muito poucos ataques bioterroristas, há poucas razões para acreditar que isto se deva à falha dos sistemas de rastreio autónomos. Já existem muitas maneiras de contornar este problema sem recorrer ao redesenho da IA. Por exemplo, a ricina é obtida da mamona, encontrada em muitos jardins. Este estudo equivale a um alerta de que os bancos podem ser roubados por alguém altamente sofisticado. missão impossívelPlanos de estilo, mas na realidade a porta do cofre fica aberta.

Por último, mas não menos importante, excluindo os intervenientes estatais, não há bioterroristas que tenham matado alguém com sucesso utilizando armas biológicas baseadas em proteínas. A japonesa Aum Shinrikyo tentou matar pessoas com Clostridium botulinum, mas só conseguiu com produtos químicos. Cartas com ricina enviadas à Casa Branca não mataram ninguém. Com base na contagem de corpos, armas e explosivos são muito mais perigosos do que toxinas biológicas.

Isso significa que devemos parar de nos preocupar com armas biológicas projetadas por IA? Não completamente. Embora a investigação de Horvitz se tenha concentrado apenas em proteínas, os vírus representam uma grande ameaça e a IA já está a ser utilizada para redesenhar vírus inteiros.

No mês passado, uma equipe da Universidade de Stanford, na Califórnia Seus esforços para redesenhar vírus fica infectado com bactérias Escherichia coli. Tal como acontece com a proteína redesenhada, os resultados não foram impressionantes. Dos 302 vírus criados por IA, apenas 16 foram capazes de infectar pessoas. Escherichia coli. Mas isto é apenas o começo.

Quando questionados sobre vírus projetados por IA, james deggans Ele e membros da equipe de Horvitz na empresa de fabricação de DNA Twist Biosciences disseram que é mais fácil detectar o vírus que codifica o DNA em questão do que a proteína em questão. “A triagem sintética funciona melhor com mais informações do que com menos informações, portanto, em escala genômica, é incrivelmente informativa”.

No entanto, nem todas as empresas fabricantes de ADN realizam esta triagem e estão a tornar-se disponíveis sintetizadores de ADN de bancada. Fala-se em projetar ferramentas de IA. Recuse-se a criar vírus perigosos Mas as pessoas encontraram várias maneiras de contornar as salvaguardas, como impedir a IA de instruir a fabricação de bombas.

Para ser claro, a história sugere que o risco dos vírus “selvagens” é muito maior do que o risco do bioterrorismo. Apesar das atuais alegações do governo dos EUA, as evidências sugerem que o SARS-CoV-2 surgiu quando um vírus de morcego infectou outros animais selvagens e depois infectou pessoas nos mercados, mas nenhum laboratório esteve envolvido.

Além disso, um pretenso bioterrorista poderia causar danos incríveis simplesmente ao liberar um vírus conhecido como a varíola. Existem tantas lacunas nos esforços de controle de armas biológicas que há pouca necessidade de confiar em truques de IA para contorná-las.

Por todas estas razões, o risco de um vírus concebido por IA ser libertado em breve é ​​provavelmente próximo de zero. No entanto, à medida que várias tecnologias continuam a avançar, este risco aumentará. E a pandemia da COVID-19 mostrou o quão perturbador um novo vírus pode ser, mesmo que não seja particularmente mortal. Haverá cada vez mais motivos para preocupação.