Dario Amodei, CEO e fundador da Anthropica, foi publicado recentemente tente on-line que começa comparando a IA com os Hobbits no Senhor dos Anéis. Isso não pode ser feito se o único comentário for acreditar que o sistema antrópico de papel é o modelo adequado do Mito de Cláudio.
“A intersecção entre IA e instituições políticas parece um pouco com O Hobbit e Barbárvore”, escreve Amodei – isto é, Barbárvore se move tão lentamente que não consegue entender a velocidade dos Hobbits. Mas então a polêmica afirmação de Amodeus depende do que continuar Senhor dos Anéis analogia, significa que os hobbits se movem exponencialmente mais rápido cada vez.
“As alegações de escalonamento da IA, que prevêem um aumento exponencial nas habilidades cognitivas gerais com o aumento do poder computacional, agora têm mais de uma década de evidências empíricas por trás delas”, afirma Amodei. “Se essas leis de escalonamento continuarem por mais um ou dois anos, conseguiremos o que estamos pedindo.” A IA todo-poderosa.”
Dificilmente existe uma referência; Amodei, que contava com a bonança antrópica do IPO, usa a palavra “exponencial” seis vezes no ensaio. Contém o título “Política de IA exponencial”. Mas é verdade?
Vamos fazer uma pausa por um momento no duvidoso documento da OpenAI de 2020 ao qual Amodei se vincula para provar sua afirmação, ou nos numerosos testemunhos de outros especialistas em IA que são “cognitivamente capazes” em modelos de linguagem. não crescendo tão rápidose for o caso. Prodromus, segundo a palavra de Amodeus, parece contradizer-se bem, o antrópico.
A vibração da IA é real: por que a reação está crescendo
No sistema de cartões para visualização do Claudius Mythos (PDF)modelo, que Amodei exalta no comentário à segurança cibernética que é causada, você encontrará a seguinte afirmação: “Podemos conhecer a inteligência (intelecto). deve ser confiado à pesquisa humana, não à ajuda da IA… as primeiras alegações de grande vitimização por IA não foram apoiadas.” (ênfase nossa).
Velocidade da luz mashável
Você pensaria que não poderia ser mais específico do que isso – a menos que você leia o artigo sobre o sistema antrópico do outro modelo das Novas Fronteiras, Fable. E o resultado não poderia ser mais claro.
“Não observamos uma aceleração atribuível à IA na etapa 2 do nosso desenvolvimento de IA.” Cartão de história do sistema (PDF) ele disse.
Então, onde Amodeus está obtendo informações do exponencial? Chegamos à declaração antrópica, mas a citação usada pelo CEO é chamar o jornal de 2020 Leis de escala para modelos de linguagem neuralem coautoria com Jared Kaplan (então com OpenAI, agora fundador da Anthropic). A conclusão desse artigo foi questionada por outro pesquisador de IA, Gary Marcus, há quatro anos.
“Existem falhas graves na trama.” Marcos escreveu em 2022. “Sim, de fato.” já precipitar-se para o alto aprendizado nos limites da escalada, talvez já esteja se aproximando do ponto de reduzir a questão.” Ele citou pesquisas sobre o modelo OpenAI GPT-3, que “mostra que a balança é instável em algumas medidas, como toxicidade, veracidade; raciocínio e bom senso.
Mark foi condenado ao ostracismo pelos verdadeiros crentes da IA na época, mas mais tarde foi justificado – especialmente com o lançamento do GPT-5, que não era a superinteligência que alguns de seus usuários esperavam.
Encontrar evidências do crescimento exponencial da IA desde então pode ser mais difícil do que simplesmente entrar em Mordor.
Relatório adicional fornecido por Timothy Werth.
Tópicos
Inteligência Artificial Antrópica
