A IA que pode construir uma IA melhor poderia, teoricamente, continuar a melhorar
Imagens Just_Super/Getty
Uma das principais empresas de inteligência artificial do mundo implorou à indústria que interrompesse o desenvolvimento da IA, dizendo que pode estar a atingir um ponto de viragem em que os seus modelos mais recentes serão capazes de se redesenharem, ficarem mais fortes e, eventualmente, escaparem ao nosso controlo. Pelo menos é o que dizia a manchete.
Na verdade, o cofundador da Anthropic é jack clark Ele é o chefe do think tank Institute for Anthropology. Marina Fávarofoi publicado. postagem longa no blog Pouco antes de ser listada no mercado de ações com uma suposta oferta pública inicial (IPO) de US$ 1 trilhão, a empresa aprimorou seu modelo Claude.
Vamos ignorar por um momento o enorme elefante económico na sala e olhar para as afirmações técnicas. A capacidade da IA de conceber versões mais poderosas de si mesma para realizar os mesmos feitos seria claramente transformadora, mas também não seria uma ideia nova. A Antrópica agora chama isso de “autoaperfeiçoamento recursivo”, mas as pessoas passaram décadas falando sobre “singularidade” como o momento em que isso acontece.
Não está claro se estamos realmente mais próximos desse momento do que antes. O ritmo da investigação em IA hoje é certamente vertiginoso, mas antes disso houve avanços rápidos seguidos de períodos de hiato, os chamados invernos de IA, onde as melhorias são tão difíceis de melhorar como os investimentos. Até mesmo Favaro e Clark reconhecem em seu blog que o autoaperfeiçoamento recursivo é inevitável.
Recentemente escrevi sobre desenvolvedores de código aberto que lutam para lidar com grandes quantidades de código “lixo” gerado por IA que não funciona ou leva o projeto em uma direção que a equipe principal não deseja. Em outros lugares, várias contas no Instagram conquistaram grande público ao mostrar a IA falhando em tarefas simples. Em um vídeo típico, um usuário solicita o seguinte ao ChatGPT: negociar o preço do pão O limite é de US$ 5, mas a IA fecha a negociação com segurança em US$ 400. Esta não parece ser uma ferramenta quase pronta para produzir descendentes sencientes.
Isso não quer dizer que a IA não seja útil ou que eu seja um cético em relação à IA. Nos últimos anos, tenho estado sentado entre duas cadeiras, sofrendo de dissonância cognitiva. Estamos maravilhados com o que a matemática relativamente simples, grandes quantidades de dados de treino e grandes quantidades de chips de computador podem fazer e, ao mesmo tempo, temos uma total falta de fé na capacidade dos chips de computador para lidar de forma confiável até mesmo com a menor parte das nossas tarefas diárias. Pelo menos por enquanto.
Para que a IA comece a deslizar pela ladeira escorregadia em direção à singularidade, duas coisas precisam acontecer. Primeiro, é um problema de engenharia relativamente trivial. Podemos ajustar nosso código para usar menos recursos com mais eficiência, treinar nossos modelos com mais rapidez e continuar a aumentar a escala que nos trouxe a maioria de nossos avanços recentes? Em segundo lugar, grandes ideias. Poderemos criar novas arquiteturas e estratégias que, fundamentalmente, elevem o progresso, mudem o paradigma e nos tirem da trajetória de simplesmente tornar o modelo maior?
A Antropic disse que o papel dos humanos em ambos os campos está diminuindo e pode haver um ponto crítico em que a IA possa planejar e codificar melhor do que os humanos, após o qual os humanos darão um passo atrás. Mas a verdade é que ninguém sabe se a IA continuará a melhorar, se estamos prestes a atingir um limite máximo de desempenho, se existe uma maneira de quebrá-lo e se nós ou a IA seremos capazes de encontrá-lo. Existem muito mais incógnitas do que conhecidas na pesquisa de IA.
Então, de volta aos IPOs. Os profissionais da indústria de IA estão otimistas e com razão. Por exemplo, porque estão a fazer as suas próprias escolhas e os seus empregos e investimentos estão em jogo. Agora, empresas como Anthropic, OpenAI e SpaceX (que recentemente adquiriu a xAI de Elon Musk) procuram angariar mais financiamento público do que alguma vez conseguiram antes. É aqui que o hype pode subir ainda mais, mesmo a partir deste ponto alto. Dados os últimos anos de desenvolvimento da IA, parece uma mensagem de marketing eficaz dizer: “Não, estamos construindo máquinas que podem escravizar a humanidade. Dê-nos o seu dinheiro”.
Por fim, vale a pena mencionar que a Anthropic não está realmente pedindo uma moratória nas pesquisas. Diz apenas que se todos estão agindo ao mesmo tempo e os “bandidos” não conseguem avançar, é melhor desacelerar. Com triliões de dólares em jogo, conseguir que as grandes empresas de IA concordem parece ser o futuro mais improvável.
tópico:
