Alguns dos maiores rivais da indústria de IA deixaram de lado suas muitas, muitas deficiências por uma causa comum: tornar mais difícil para as pessoas usarem sua tecnologia para desenvolver armas biológicas. UM Uma carta aberta Para os legisladores dos EUA, os líderes tecnológicos estão a pressionar o Congresso para aprovar regras que colmatem o que consideram ser uma lacuna perigosa de biossegurança que poderia ajudar a alimentar uma pandemia global.
Dario Amodei, da Anthropic, Sam Altman, da OpenAI, e Mustafa Suleyman, da Microsoft, estão entre os signatários dos legisladores dos EUA que temem que as ferramentas de IA possam facilitar a concepção de cenários perigosos, encomendá-los aos fabricantes e utilizá-los de formas que anteriormente exigiam conhecimentos mais especializados.
Outros signatários incluem Alexander Wang, chefe de IA da Meta, e Demis Hassabis, do Google DeepMind, que ganhou o Prêmio Nobel de Química de 2024 por seu trabalho na previsão de proteínas baseada em IA. A carta foi assinada por cientistas proeminentes, especialistas em segurança nacional e políticas e executivos de empresas de biotecnologia, incluindo Twist Biosciences e Ansa Biotechnologies. Havia uma carta é relatado Organizado por dois think tanks, a Foundation for American Innovation e o Institute for Progress.
Os cientistas há muito alertam que os avanços na biologia sintética poderiam tornar mais fácil para os cientistas a engenharia de organismos perigosos. Revive patógenos há muito mortos – Trabalho que pode ser desastroso se for mal utilizado, manuseado incorretamente ou liberado acidentalmente. Mas esse poder está muitas vezes nas mãos de cientistas talentosos com acesso a laboratórios, equipamentos e recursos de última geração. A preocupação agora é que, à medida que as ferramentas biológicas se tornam mais baratas e mais acessíveis e os modelos de IA se tornam mais eficientes, as barreiras à utilização indevida começam a desmoronar. Os especialistas alertam também que a IA pode ajudar a desenvolver outras ameaças, como armas químicas.
Embora a carta reconheça que muitos grandes fornecedores de DNA e RNA sintéticos já analisam os pedidos, isso é feito de forma voluntária e não obrigatória. A carta diz que registros detalhados devem ser mantidos em quaisquer pedidos para rastrear ameaças que escapem à triagem inicial.
“Dado o ritmo a que a tecnologia subjacente está a mudar, acreditamos que a necessidade é urgente”, afirma a carta. “Este é um raro momento de acordo entre partes interessadas, muitas vezes conflituantes. Esperamos que os decisores políticos o enfrentem com ações decisivas”.
