Os pesquisadores do Google e do Google DeepMind lançaram o DeepMind Institute na quarta-feira para avançar na conversa sobre inteligência artificial geral (AGI). O instituto lista o cofundador da DeepMind, Shane Legg, o executivo do Google, James Manyika, e o presidente do Google DeepMind, Demis Hassabis, como diretores, com Legg atuando como editor-chefe.
O novo instituto visa lançar luz sobre as diferentes perspectivas entre o Google, o Google DeepMind e a comunidade global mais ampla de pesquisa em AGI. “Eles nem sempre concordarão e poderão mudar de ideia à medida que mais dados e informações vierem à tona na fronteira em rápida evolução”, diz o anúncio.
Esta primeira coleção de quatro artigos cobre uma série de tópicos: políticas económicas para gerir potenciais perturbações da AGI, preservar o raciocínio do modelo legível por humanos, princípios do florescimento humano e estruturas para avaliar modelos de IA de ponta.
um prosaOs pesquisadores de segurança da DeepMind, Rohin Shah e Anca Dragan, sugerem que a janela cada vez menor de transparência da IA – a capacidade de ver e inspecionar o raciocínio passo a passo de um modelo – não é inevitável. Os autores dizem que, como a nova arquitetura torna os modelos mais poderosos mais difíceis de monitorar, os desenvolvedores e reguladores devem enfrentar de frente as compensações de segurança. Isso pode significar limitar a “profundidade serial opaca” – a quantidade de cálculos sequenciais que um modelo pode realizar sem produzir um traço de inferência legível – ou exigir que os desenvolvedores provem que sistemas menos transparentes ainda são monitoráveis.
em outro prosaHassabis propôs estabelecer um órgão de padrões de inteligência artificial de ponta liderado pelos EUA para avaliar os modelos de inteligência artificial mais avançados. De acordo com sua estrutura, os desenvolvedores inicialmente enviarão voluntariamente modelos para revisão 30 dias antes do lançamento. Uma vez que o sistema de avaliação seja comprovadamente eficaz, passar nos testes poderá se tornar um requisito para a implementação de modelos de ponta nos Estados Unidos.
A agência irá primeiro conceber as avaliações em consulta com empresas de IA, mas acabará por desenvolver avaliações independentes e não divulgadas – o que este artigo chama de testes de “manutenção” – para evitar que os laboratórios adaptem modelos com base em avaliações conhecidas. Hassabis disse que “se a situação for grave, a estrutura precisa ser fortalecida”, incluindo potencialmente uma desaceleração na coordenação entre os desenvolvedores de IA de ponta.
Os artigos surgem num momento em que o debate sobre segurança na indústria passa de preocupações gerais para propostas concretas de divulgação, revisões externas e um abrandamento na coordenação se as salvaguardas ficarem para trás. Essa mudança acelerou esta semana quando os líderes da indústria endossaram o apelo do CEO da Anthropic, Dario Amodei, para “acelerar” o desenvolvimento de inteligência artificial de ponta.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
