Demis Hassabis acredita que o mundo precisa de um espião de IA com poder para atacar alvos caso modelos limitados se tornem muito perigosos.
Escrevendo em um postagem no blogO CEO e fundador do Google DeepMind disse que os EUA deveriam liderar a iniciativa, argumentando que o país está em melhor posição para cumprir os padrões globais “dados os dados económicos e técnicos”. A organização, que é semelhante aos reguladores existentes, como a Autoridade Reguladora da Indústria Financeira, seria liderada por especialistas independentes e representantes da comunidade de código aberto e teria autoridade para avaliar modelos limitados antes de serem lançados e coordenar uma desaceleração em toda a indústria, caso sejam considerados demasiado arriscados para serem implementados.
O blog, intitulado “Uma Estrutura para o Propósito da IA e o Amanhecer de uma Nova Era”, argumentou que a necessidade de regulamentação global é mais premente à medida que os sistemas de IA crescem em sofisticação. A inteligência artificial geral (AGI) “provavelmente estará dentro de alguns anos”, disse ele. “Quando olhamos para este período de décadas, pensamos que estamos nas raízes da singularidade – nada menos do que no alvorecer de uma nova era da humanidade.”
Segundo EixosHasbas vem construindo discretamente apoio para seu plano há meses, incluindo informações à administração Trump, a outros laboratórios de IA e a autoridades europeias, e espera ter a nova organização instalada e funcionando antes do final do ano. ele disse Eixos Que “o barulho que ouvi (da administração Trump) foi muito positivo”.
A proposta é o mais recente esforço de Hassabi e de outros líderes da indústria para estabelecer uma estrutura coerente para governar sistemas de IA cada vez mais poderosos, bem como para mitigar os riscos que representam. Embora ainda não exista um sistema global de regulamentações específicas para IA, nem regulamentações nacionais abrangentes nos EUA. Hassabis, vencedor conjunto do Prémio Nobel de Química 2024 pelo seu trabalho de previsão baseado em IA, também assinou o seu nome numa declaração apelando a salvaguardas mais rigorosas contra a produção de armas biológicas assistidas por IA no mês passado.
Os comentários mais recentes de Hassabi seguem uma declaração dos principais economistas e titãs da tecnologia – incluindo o cofundador da Anthropologie, Jack Clark, e o ex-CEO do Google, Eric Schmidt – encorajado Os líderes mundiais estão a investir fortemente na IA, uma vez que esta tem impacto na economia.
