Grande IA empresas Ele nos prometeu 2015 seria o ano dos agentes de IA. Um ano se passou de Agentes de IA, e podem iniciar esse momento de transformação em 2026 ou talvez mais tarde. Mas e se a resposta à pergunta for “Quando as nossas vidas serão totalmente automatizadas por robôs geradores de IA que realizarão o nosso trabalho por nós e basicamente governarão o mundo?” é assim Desenho animado da Nova York“E nunca?”
Basicamente, um jornal publicado sem muito alarde há alguns meses, no meio de um ano de “agente AI” exagerado. está escrito “Estações de Alucinação: Alguns Limites Básicos de um Modelo de Linguagem Baseado em Transformadores” quer mostrar matematicamente que “LLMs são incapazes de realizar tarefas computacionais além de uma certa complexidade”. Embora a ciência esteja além da minha compreensão, os autores – um ex-CTO da SAP que estudou IA com um dos intelectuais fundadores da área, John McCarthy, e seu filho adolescente prodígio – pontuam a visão do Agente Paraíso com certeza matemática. Mesmo modelos de raciocínio que vão além do processo puro de previsão de palavras dos LLMs, por exemplo, não resolvem o problema.
“Não há como eles terem certeza”, me diz Vishal Sikka, o pai. Depois de uma carreira que, além da SAP, incluiu funções como CEO da Infosys e membro do conselho da Oracle, atualmente trabalha em uma startup de IA. Viana. “Então, deveríamos esquecer os agentes de IA que administram usinas nucleares?” Estou perguntando: “Sim, de fato”, disse ele. Talvez não haja problema em arquivar alguns papéis ou algo assim para economizar tempo, mas talvez você possa se resignar a alguns erros.
A indústria de IA discorda. Primeiro, o grande sucesso foi na codificação de IA do agente, que foi removida no ano passado. Esta semana, em Davos, o chefe de IA do Google, Demis Hassabis, vence avanços relatados nas alucinações escurecidas, e o hiperescalar e satuia impulsiona a narrativa do agente. Agora eu disse algo. Um começo é chamado Harmônico anuncia um avanço na codificação de IA que também depende da matemática e dos principais benchmarks confiabilidade.
Harmonica, que foi treinada pelo CEO da Robinhood, Vlad Tenev, e por Tudor Achim Stanford como matemático, afirma que esta recente melhoria em seu produto chamado Aristóteles (não há Hubris) é uma indicação de que existem maneiras de garantir a confiança dos sistemas de IA. “Será que vamos perecer num mundo onde a IA só gera lixo e os humanos não conseguem controlá-la? Seria um mundo louco”, diz Achim. A solução harmônica é usar métodos formais de raciocínio matemático para verificar o resultado do LLM. Em particular, codifica limitações na linguagem de programação Lean, que é conhecida pela sua capacidade de verificar a codificação. É claro que o foco do Harmonic tem sido estreito há algum tempo – sua missão principal é o estudo da “superinteligência matemática”, e a codificação é uma espécie de extensão orgânica. Coisas como projetos históricos que não podem ser verificados matematicamente estão fora dos limites. Por agora.
Contudo, Achim não parece pensar que a política seja tão fiável como alguns críticos acreditam. “Eu diria que a maioria dos modelos neste momento tem a inteligência necessária para reservar um itinerário de viagem”, disse ele.
Ambos estão corretos – ou talvez até do mesmo lado. Por um lado, todos concordam que as alucinações continuarão a ser dolorosas. Em o último artigo publicado em setembro; Os cientistas da OpenAI escreveram: “Apesar do progresso significativo, as alucinações continuam a atormentar o campo e ainda estão presentes em modelos recentes”. Eles demonstraram essa afirmação infeliz pedindo a três modelos, incluindo ChatGPT, que fornecessem o título da dissertação do autor principal. Todos os três títulos fabricados e todos distorcidos no ano de publicação. Em uma postagem no blog sobre o artigo, a OpenAI afirmou taciturnamente que os modelos de IA “nunca alcançarão 100% de precisão”.
