Você não precisa ser um fã de IA para reconhecer que às vezes a IA pode se tornar uma ferramenta útil na busca por novos conhecimentos. Se alguém dessa nova ciência descobrisse uma receita de arma biológica, acho que a maioria das pessoas que amamentaram concordaria.
Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic Eles não concordam sobre muita coisamas eles concordam em absorvê-lo e assinam seus nomes em letras simples, dizendo isso. A própria carta chama isso de “um raro momento de acordo entre níveis muitas vezes díspares”.
Outros signatários incluem Demis Hassabis e Alexandr Wang, respectivamente chefes de IA do Google Deepmind e Meta, juntamente com outros profissionais de marketing e pesquisadores de IA, além de dezenas de cientistas e especialistas em políticas.
O objetivo central da carta não significa nada para a IA; é dirigido aos vereadores e simplesmente pede que sejam aprovadas leis exigindo que eles tenham a capacidade de produzir ácido nuclear sintético. Ele pede especificamente que quando chegam solicitações de DNA (e presumivelmente RNA, embora a carta não o mencione), elas sejam consideradas para “sequências preocupantes” e “autenticação do cliente” verificadas antes do ácido nucleico ser sintetizado. Ele também pede que as informações sobre as fileiras sejam disponibilizadas a potenciais investigadores, dizendo: “O próprio conhecimento da trilha impedirá o abuso”.
Um rápido progresso logo aumenta a necessidade. A carta diz que, como a IA está a avançar tão rapidamente, existe uma possibilidade real de que as barreiras de conhecimento que historicamente impediram os maus actores de utilizarem armas biológicas sejam eliminadas.
Com fio notas Eles acreditam que a carta foi criada por duas fundações: o Institute for Progress, que é descrito como apartidário, e a Foundation for American Innovation, que parece ser de direita.
A OpenAI, por sua vez, tomou recentemente medidas que parecem associar a empresa e o seu líder à responsabilidade. Ele não largou plano de papel branco Na terça-feira, ele delineará um plano para examinar modelos de IA em nível federal, que é mais rígido do que o plano. recente ordem executiva do presidente Trump. Na quarta-feira, Altman também se reuniu com Bernie Sanders, o mais feroz crítico da IA atualmente no Senado dos EUA.
