Bem-vindo à crise da IA ​​em matemática

Hoje em Decodificadorestou conversando com Robert Hart, A beirarepórter de IA baseado em Londres, sobre o que a IA está fazendo no campo da matemática e a crise existencial que muitos matemáticos importantes estão enfrentando a respeito.

A OpenAI acaba de publicar um conjunto de soluções para problemas matemáticos de longa data que explodiram como uma bomba na área. Isso causou um grande debate na comunidade matemática, e Rob passou algum tempo conversando com alguns dos matemáticos mais talentosos do nosso tempo sobre isso.

É engraçado que os sistemas de IA ainda sejam muito ruins em aritmética do ensino fundamental, mas estão ficando cada vez mais bons em matemática abstrata de ponta. Isso levanta algumas grandes questões para o campo da matemática avançada.

Se a IA pode fazer contas deste calibre, isso significa que os laboratórios de IA podem transferir essas habilidades para outros domínios? De que servem as bolsas académicas e os programas universitários para treinar novas gerações de matemáticos humanos para identificar novos problemas à medida que tentam resolver os existentes, se os modelos de fronteira simplesmente respondem a todas as questões pendentes?

E se toda essa atenção em torno da matemática for apenas um grande exercício de marketing para laboratórios de IA de ponta, que não estão nem aí para o que acontece com uma das disciplinas acadêmicas mais antigas e fundamentais que existe?

Há muita coisa aqui, e Robert conversou com muitas pessoas com muitas opiniões sobre tudo isso.

OK: Beira O repórter de IA, Robert Hart, sobre o que a IA está fazendo com a matemática. Aqui vamos nós.

Esta entrevista foi levemente editada para maior extensão e clareza.

Robert Hart, você é nosso repórter de IA baseado em Londres aqui em A beira. Bem-vindo ao Decodificador.

Obrigado por me receber.

Estou muito animado para falar com você. Há muita coisa acontecendo em particular com IA e matemática que você mergulhou recentemente. Você conversou com muitos matemáticos importantes sobre a crise na matemática devido à IA.

Parece muito e também que ainda há muito para saber e descobrir sobre a interação dessas duas coisas. Uma crise existencial plena, que é pura Decodificador isca. Conte-nos amplamente o que está acontecendo.

Acho que “muito” resume muito bem. Basicamente, há uma espécie de crise existencial interna: “o que é a matemática? O que os matemáticos estão fazendo e qual é o papel dos matemáticos no futuro?”

Muito disso foi estimulado por uma transição de frase sobre o que a IA é capaz de fazer, que explodiu nos últimos seis meses a um ano. A IA passou de muito terrível a aparentemente muito boa em nível profissional em um espaço de tempo muito curto. É muito disso que esses outros campos têm lutado para lidar nos últimos cinco anos em um período de tempo muito reduzido.

Eu colocaria isso ao lado da engenharia de software. Já faz algum tempo que vivemos a crise da IA ​​​​na engenharia de software. Mas ainda em 2024, mesmo no ano passado, a sabedoria convencional era que os modelos de IA eram particularmente maus em matemática. O exemplo famoso é que esses modelos não consegui contar o número de R na palavra morango. Até mesmo contar lhes escapou.

O que aconteceu para torná-los melhores em matemática? Eles ainda são ruins em aritmética geral e bons em matemática avançada, ou é algo intermediário?

Eles ainda são realmente terríveis em algumas áreas da matemática. Eu verifiquei, eles podem fazer morangos agora. Acho que alguém mexeu nisso.

Acho que o morango está codificado. Quero ser bem claro: minha teoria da conspiração é que a coisa do morango está embutida em todos os modelos.

Eu também acho. Essa é uma conspiração que vou acreditar.

Mas sim, ainda é terrível nesse tipo de coisa – matemática, aritmética e até mesmo os dias da semana. Meu namorado estava dizendo outro dia: “Fica pensando que é quarta-feira. Não é quarta-feira.” Ou tempo. Elissa Welle escreveu para nós há alguns meses que o ChatGPT não sabe dizer as horas. Ainda não posso. Isso não é tudo em matemática.

Então há essa desconexão. Para ser bom em matemática, você precisa ser bom em contar, somar ou multiplicar. Muito disso é, na verdade, raciocínio. Se você olhar trabalhos acadêmicos de matemática, muitas vezes não verá números, o que resume tudo, eu acho. Então eles ainda são terríveis, mas agora também são muito bons nessa outra parte.

Quanto ao motivo, em algum momento você atinge uma massa crítica do que esses sistemas podem fazer. Vimos isso na escrita, vimos isso na programação. Eles são muito bons em estabelecer conexões entre diferentes áreas, aplicando métodos antigos de novas maneiras, esse tipo de coisa. Parece que os modelos mais novos que eles estão treinando aparentemente atingiram o nível em que clicam e agora podem fazer contas.

É importante dizer também que falamos de matemática como uma disciplina unitária, especialmente do lado de fora. Mas imagine, digamos, biologia. Você tem algo que vai desde literalmente observar animais e descrever o comportamento até mecanismos celulares e bioquímica. A matemática também não é uma disciplina unitária. A IA é realmente boa em alguns aspectos. Algumas partes, como contar, ainda são muito ruins.

Mesmo nos níveis mais abstratos, os matemáticos consideram a topologia uma área na qual a IA aparentemente ainda é muito ruim. Não posso verificar isso, para ser sincero. Está além da minha área de especialização. Ainda assim, é um pouco confuso.

Então você descreveu a matemática como um campo enorme, obviamente, com muitas, muitas áreas acadêmicas de interesse. Existem algumas partes em que os modelos ficaram muito bons. Existem outras partes, talvez as partes básicas que as pessoas chamam de matemática, que é simplesmente contar, onde ainda estão lutando, e há uma grande variedade no meio.

É a faixa intermediária onde está a crise existencial, as pessoas não sabem o que vai acontecer? Ou é nas partes onde é realmente bom?

Um pouco de ambos, o que eu acho que será um tema recorrente nisso. Ninguém tem medo de ser um matemático medíocre, mas obviamente há um grande elemento no que esta área faz. Em termos de elementos de pesquisa ou de vanguarda, como vemos em muitos dos resultados que geram entusiasmo, o que isso pode fazer? Existem áreas agora onde parece estar produzindo trabalhos que estão no mesmo nível dos bons matemáticos, ao lado de outras partes onde sim, não pode contar.

Tudo em causa é se vai reescrever as estruturas de emprego ou as estruturas de financiamento. Você também levantou a obscura questão: o que é conhecimento matemático? E as funções que esses trabalhadores desempenharão também. É tudo isso embrulhado em um.

Acho que isso acompanha amplamente a ascensão da IA ​​em todos os campos. Onde você pode simplesmente adicionar potência ou calcular um problema, e há algum tipo de verificabilidade, parece que os modelos continuam a melhorar. Tudo no meio onde você pode precisar de algum conhecimento do mundo ou os modelos podem precisar de alguma inteligência real sobre o próprio mundo, eles parecem ter dificuldades.

Essas partes da matemática, pelo menos relatadas em seu artigo e sobre as quais os laboratórios estão falando, parecem ser problemas teóricos quase inteiramente independentes. É aí que os modelos podem gerar uma prova ou resolver um problema que ninguém foi capaz de resolver, e depois tentar verificar se isso existiu e podem simplesmente executá-lo de novo e de novo e de novo.

Isso nos leva, creio eu, a maio deste ano, onde um modelo interno da OpenAI, que realmente não vimos, refutou a conjectura da distância unitária, que é um problema de 80 anos. E recentemente ouvimos falar do Astra da OpenAI. Astra é aquele onde parecia que o interruptor foi acionado e todos decidiram que era uma crise existencial.

O que a Astra alcançou e por que isso é importante?

Também tenho certeza de que o Astra provavelmente também estava atrás do primeiro. A OpenAI apenas o listou como um modelo interno sem nome. Provavelmente é Astra. Eles não me responderam quando perguntei.

A OpenAI, há algumas semanas, lançou um blog junto com muita papelada comprovando isso, acho que várias centenas de páginas. Eles o chamaram de “10 Avanços em Matemática e Ciência da Computação Teórica”. Foi basicamente uma série de disciplinas que eles alegaram que o mais novo modelo do Astra havia resolvido de alguma forma. Acho que um deles foi na teoria quântica dos jogos, que não sei como começar a explicar. Ainda mais difícil de explicar é que havia empacotamento de esferas em dimensões superiores, ou seja, mais de três dimensões, e havia muitas outras disciplinas diferentes também.

Isso causou muita agitação na comunidade. Foi uma espécie de bomba. Como dissemos, ocorreram avanços individuais, mas o OpenAI lançou 10 de uma só vez, e eles foram bem grandes. Os pesquisadores me disseram que se um humano tivesse resolvido isso, ficaríamos impressionados. Se um humano tivesse resolvido todos os 10, provavelmente não acreditaríamos.

São problemas com os quais os matemáticos também se preocupam, o que é um ponto importante. Muitas descobertas anteriores foram acusadas de ocorrer em áreas com as quais os matemáticos realmente não se importavam. São questões que os matemáticos, bons matemáticos, passaram muito tempo tentando resolver e não conseguiram.

Vamos falar sobre esses 10. Você os denunciou. OpenAI produziu alguma documentação. Mas nem todos eles são totalmente movidos a cavalo do nada, certo?

Eles são baseados em trabalhos anteriores. Há alguma questão de atribuição. Qual foi a resposta? É: “Oh, as modelos fizeram isso?” Ou foi a resposta que vemos a tanto trabalho de IA, que basicamente se resume a: “Bem, você roubou isso e não atribuiu nada a ninguém, e construiu sobre ombros de gigantes sem mencionar isso”. Como a resposta chegou?

Em geral, a reação geralmente foi de bastante impressão por parte das pessoas com quem conversei. Como eu disse, esses são problemas com os quais os matemáticos se preocupam. Houve um que chamou atenção especial pela forma como eles o creditaram e também como anunciaram tudo isso em seu blog. A OpenAI disse inicialmente que se tratava de 10 problemas e não houve progresso nos últimos 10 anos. E então, se você realmente ler os artigos, um deles diz claramente: “Oh, nós construímos o progresso desses dois pesquisadores”.

Então isso foi mudado mais tarde de forma bastante discreta. Mas alguns dos pesquisadores com quem conversei não ficaram impressionados e sentiram que era um elemento do tipo: “Bem, sim, você não deu crédito a algo que usou muito aqui, e por seu próprio reconhecimento”. Dito isto, um dos pesquisadores com quem conversei, que foi um dos citados, e que também era um pouco ambivalente em relação a tudo isso, então foi uma verdadeira confusão.

A impressão geral foi que foi bastante impressionante. Estas foram descobertas reais que incomodaram as pessoas, e fizeram avançar o campo de tal forma que, se um matemático humano tivesse feito isto, vários investigadores diriam: “Bem, se um investigador tivesse resolvido qualquer um destes problemas, provavelmente estaria pronto para uma carreira académica”.

É engraçado, crédito e atribuição na academia são o jogo completo. E parece que as empresas de IA escapam impunes de serem desleixadas de uma forma que nenhum ser humano seria capaz de escapar impune de ser desleixado.

A escala da descoberta ou do trabalho superou o desleixo? Se um humano tivesse alcançado os mesmos objetivos e tivesse sido tão desleixado, a reação seria a mesma?

Parte de mim sempre quer se apoiar no elemento “Oh, parece plágio”. Mas se você realmente ler os artigos que eles produziram – e um dos pesquisadores com quem falei disse que provavelmente há cerca de 50 pessoas no mundo que se darão ao trabalho de ler isso em profundidade – fica muito claro. Não tenta plagiar. Acho que foi apenas um comunicado de imprensa ruim, para ser honesto.

E por mais que eu goste de abordar o assunto às vezes, tendo coberto ciência há mais de uma década, acho que os comunicados de imprensa muitas vezes exageram sobre a descoberta que realmente foi feita e a importância e a novidade dela. Acho que é apenas mais um caso do que aconteceu aqui.

Isso parece repetível? Há algumas provas de que eles resolveram 10 problemas que eram insolúveis. Eles fornecem alguma prova de que podem resolver outros 10?

Essa é a questão. Portanto, a grande incógnita entre as quase dezenas de pessoas com quem conversei sobre isso foi: “Bem, quantas pessoas eles tentaram obter esses 10?” Quem sabe? Eles sabem, mas não dizem.

Mas essa é a grande questão aqui. Não está claro quantas tentativas foram necessárias para obter esses 10. Eu ficaria muito impressionado se fosse a primeira coisa que eles buscassem e depois viessem esses 10 resultados impressionantes.

Não está claro em quais áreas eles se concentrariam a seguir e por quê. Imagino que existam razões comerciais por trás dos problemas que eles estão optando por divulgar e que seus modelos podem resolver. Todos os laboratórios de IA têm contratado um grupo de matemáticos seniores nos bastidores, então ninguém sabe se eles farão isso de novo.

Quanto à questão da prova, a matemática é uma disciplina um tanto estranha, pois a repetibilidade não é a mesma que nas ciências experimentais. Uma prova é uma prova e, se funcionar, funciona. O problema aqui é: bem, as pessoas podem seguir o que fizeram? Cada área é altamente especializada, então haverá matemáticos individuais nessas áreas que realizarão o trabalho. Aqueles com quem conversei e que trabalharam em algumas das áreas abordadas aqui dizem que tudo parece muito legítimo.

Em matemática, existe uma linguagem de programação e prova computacional chamada Lean, onde você pode basicamente codificar as provas matemáticas e executá-las e isso, bem, prova isso. Eu continuo dizendo para provar muito aqui. Mas isso testará o rigor e os pressupostos de tudo o que acontece lá, e eles também publicaram isso. Portanto, parece que se mantém. Embora possam dizer que o comunicado de imprensa tem muito hype ou que há muito hype em torno dele, ninguém com quem falei parece duvidar dos avanços essenciais que estão reivindicando aqui.

Quero ficar neste assunto por mais um segundo. Aí está a prova matemática. Geramos uma prova e ela é, como você disse, simplesmente repetível de uma forma que a matemática é apenas lógica. Você pode simplesmente seguir as etapas e dizer: “Esta prova funcionou”, e qualquer pessoa que esteja ouvindo isso e que teve que sofrer para escrever uma prova de cálculo no ensino médio provavelmente se lembrará desse processo. Há algo aí que é pura lógica.

Depois, há uma parte disso que é código de software, como você está descrevendo no Lean, onde você pode pegar a lógica pura, expressá-la em código e executá-la para ver se funciona. Eu entendo como a IA é teoricamente boa em tudo isso. Você apenas executará o raciocínio, e o raciocínio gerará algum código. Você executará o código e obterá alguma verificabilidade. Vimos isso acontecer na engenharia de software, onde o código é executado ou não, é verificável ou não, e os modelos podem simplesmente raciocinar sobre isso.

Depois há, para mim, a grande questão a que você aludiu. Quantas vezes você tem que executar isso? Podemos verificar se os modelos fizeram isso e não foram dirigidos por matemáticos humanos que foram contratados pelos laboratórios a altos salários, de uma forma que sugere que o campo está ficando de pernas para o ar?

Você tem aqui uma citação de James Maynard, que ganhou a Medalha Fields, o maior prêmio em matemática, e disse que tem feito um exame de consciência. Eu continuo olhando para essa citação. Você tem citações semelhantes de todos esses outros matemáticos no artigo, e parece que eles estão examinando algo que eles não conseguem verificar, que é: “Como os modelos fizeram isso, e essa coisa é escalável de uma forma que ameaça a matemática?” O que sabemos sobre como os modelos fizeram isso?

Eu diria tudo o que normalmente fazemos e não sabemos sobre isso. Existem alguns problemas aí. Uma delas é a natureza dos modelos. Bem, este é um modelo inédito, então boa sorte para quem quiser testá-lo de forma independente. O mesmo acontece com qualquer coisa proprietária. Dito isto, estou inclinado a quase dar o benefício da dúvida de que eles não estão mentindo de alguma forma sobre os modelos que estão usando.

Quanto à outra parte, talvez seja mais digno de nota perguntar como estimulamos o modelo ou como ele está sendo orientado. Isso foi feito por um matemático que sabe o que está fazendo? Esse é provavelmente um fator-chave aqui, de acordo com muitos matemáticos com quem conversei e que tentaram usá-los. Geralmente são os modelos de consumo, mas ainda assim atingem um cenário mais amplo.

Dizem que se você sabe o que está fazendo e consegue apontar as coisas, é bom. Ou você pode usá-lo como uma ferramenta da maneira que desejar e de uma maneira que não seria capaz se não soubesse realmente como verificá-lo. Já tive situações em que o ChatGPT fez uma soma básica e disse: “Esse número não está certo”. Ele responde: “Espere, sinto muito. Você está certo, é isso”, e ainda está errado. Mas isso também é necessário neste nível.

Isso alude a um problema mais amplo. Como você disse, esse quase exame de consciência de: “Bem, e se pudermos automatizar isso e se chegar a um ponto em que não entendemos?” E isso realmente leva a uma questão mais profunda: “Bem, o que é matemática? Por que fazemos isso? Por que a valorizamos como um campo?”

Todos terão respostas diferentes para isso. Mas o receio de muitas pessoas com quem falei era que isto pudesse ir além da esfera do interesse humano e, nesse caso, bem, talvez simplesmente não nos envolvamos nisso. Ou será algo que as pessoas interessadas passarão e o resto continuará normalmente.

Você tem aqui uma citação de um pesquisador em Zurique chamado Johannes Schmitt que diz: “Podemos estar caminhando para uma situação em que os problemas matemáticos sejam ‘destruídos’ pela IA, mas na verdade não avançamos no campo porque os humanos são tirados do circuito e não estão verificando, ou não entendem, ou não sabem quais podem ser os avanços futuros”. Qual é a probabilidade disso? Isso é uma grande preocupação?

Há um elemento de eliminação dos problemas. Especialmente aqueles que são usados ​​como campo de treinamento para matemáticos mais jovens que estão começando e começando, por assim dizer. Mas também penso que esta ideia, de que a matemática é a resolução de problemas, é em grande parte uma perspectiva externa do esforço matemático.

Muitos dos matemáticos com quem conversei descobriram que a parte das caixas de seleção é a parte menos interessante e valiosa do campo. As áreas que são valiosas para eles não são: “Ah, você resolveu algo ou provou algo”. É o que acontece a partir disso.

Acho que foi James Maynard quem disse que as descobertas mais interessantes na área não são o fato de você ter resolvido alguma coisa, mas o que evolui a partir disso. Às vezes, essas soluções abrem novos campos de pesquisa que ninguém jamais imaginou serem possíveis, ou: “Oh, esta é uma nova ferramenta que você pode aplicar em qualquer lugar de maneiras divertidas e emocionantes”.

Acho que se olharmos para a popularização da matemática – mesmo o que considero aqueles teoremas que as pessoas propuseram – são as questões que perduram, não as soluções. É sempre o Último Teorema de Fermat, e não algo como: “Bem, aqui está a solução para tudo o que o último cara propôs”.

Acho que a preocupação aqui é que eles vão responder a todas essas questões. Normalmente, no processo de fazê-lo, seria de se esperar que eles se ramificassem em todas essas novas áreas interessantes ou levantassem novas questões. Mas a IA não fará isso, e essa é a preocupação. E então isso deixaria o campo bastante estéril, e teria todas essas coisas que foram feitas, e talvez nada mais para prosseguir.

O consenso geral foi, bem, o júri decidiu. É muito cedo para dizer. Mesmo com matemáticos humanos, leva muito tempo para perceber o impacto desse tipo de coisa. Como eu disse, ela explodiu nos últimos seis meses a um ano, e a matemática não é uma disciplina que evolui rapidamente, na melhor das hipóteses. Mas é muito cedo para dizer realmente se isso será uma preocupação. Mas é uma preocupação, e uma grande preocupação.

Você tem outra citação de Maynard aqui dizendo: “Se o padrão para um artigo publicável em matemática é algo que uma IA não pode fazer, especialmente quando um doutorado dura normalmente quatro anos, o desafio é que você não está tentando encontrar um problema que a IA não possa resolver agora, é uma IA daqui a quatro anos”.

Portanto, isto está realmente relacionado com a taxa de melhoria dos modelos, que, como você diz, particularmente em matemática, parece estar a aumentar, mas não a uma taxa uniforme em todos os domínios da matemática.

Isso parece ser o que está causando o exame de consciência. Se você é um estudante e começa hoje, e escolhe algum domínio obscuro no qual talvez a IA não seja boa, em algum momento no meio de sua tese de doutorado ou de sua pesquisa de doutorado, a IA simplesmente resolverá o problema e você estará pronto. Esse é um problema real para você.

A área já reagiu a isso ou ainda está em estado de choque: “Ah, os modelos podem começar a fazer coisas que não achávamos que eram capazes”?

Sim, acho que é um choque, na verdade. Eu mantenho um caderninho de lado para anotar sentimentos gerais sempre que faço essas entrevistas, e escrevi “choque” nele. Está longe de ser universal, mas parece que aconteceu tão rapidamente que pegou muita gente de surpresa. Mesmo que eles soubessem em teoria que, bem, isso está por vir.

Eles viram todas essas startups de matemática de IA acontecendo. Eles viram colegas se deslocando para diferentes laboratórios ou áreas de trabalho. Mas aconteceu muito, muito rapidamente. Portanto, eles têm muito pouco tempo para descobrir. Não é necessariamente nas áreas em que ele pode ser bom, é mais como: “O que ele pode fazer?”

Mas não consigo imaginar se algo assim tivesse surgido quando eu estava estudando e, literalmente, no espaço de meio ano, simplesmente destruísse o que era possível. E durante o verão também. Portanto, os alunos possivelmente estão voltando para uma disciplina completamente diferente após um intervalo.

Há algum ceticismo aqui no mundo. Gary Marcus é um cético confiável em relação à IA e ressaltou que, repetidamente, o que você vê é que a IA realiza algo em um domínio e depois é usada para generalizar a capacidade da IA ​​em todos os domínios.

Há um boa citação de Marcus aqui: “Como aprendemos há uma década com a tentativa caótica e fracassada da IA ​​de transformar o Watson, vencedor do Jeopardy, em uma máquina de combate ao câncer, o sucesso em um domínio não garante o sucesso em todos.”

Posso ler isso de duas maneiras. Primeiro, “a IA resolveu a matemática”, o que não é verdade, como você apontou de várias maneiras, até como ainda é ruim em contagem. E depois há: “A IA resolveu a matemática, e isso significa necessariamente que ela virá para todo o resto”. Virá para a física. Virá por lei. Ele virá para o que você quiser no mundo. Você pode ver se há alguma verificabilidade, a IA pode resolver isso, porque você pode simplesmente executá-lo dessa maneira.

Compreendo ambos os lados desse argumento, que obviamente o sucesso num domínio não garante o sucesso em todos os domínios. E então o arco da IA ​​continua coletando domínios. Se houver alguma verificabilidade, é mais provável que esses domínios sejam conectados do que não. Como você vê isso?

Não tenho certeza se as pessoas que Marcus está criticando aqui realmente disseram exatamente o que ele diz que estão dizendo. Há muito a dizer sobre o hype. Mas sim, o sucesso em um domínio nem sequer é igual ao sucesso em todo esse domínio, muito menos em outros domínios.

Dito isto, tem havido uma trajetória inegável nos últimos anos de um aumento cada vez maior da capacidade. Não acho que você precise estar em todo o trem da AGI para reconhecer isso e para reconhecer que isso terá um impacto.

Acho que foi Andras Juhasz, um dos professores de Oxford, que citei na história. Outra coisa que ele me disse foi que ele estava brincando um pouco com o ChatGPT e disse: “Não acho que ele tenha qualquer intuição geométrica. O que pode explicar por que houve um progresso muito limitado em campos como topologia”. Não estou em condições de verificar essa afirmação em termos matemáticos, mas penso que a ilustra muito bem. Eles chamam isso de borda irregular.

Pareceu-me um argumento fácil: “Vamos criticar o todo ‘a singularidade está próxima’”. Foi o que Elon Musk disse em resposta ao Astra, o que é muito. Eu também acho que talvez seja a interpretação menos generosa desse argumento que você pode usar para argumentar contra. Se considerarmos um elemento mais matizado que reconhece que houve um progresso claro aqui, e muito rapidamente, e como você disse, está acumulando domínios, sinto que há uma trajetória que é razoável considerar, em vez de simplesmente descartar imediatamente.

Um dos maiores argumentos sobre a IA em geral é que ela democratiza o acesso. Eu não era um grande desenvolvedor de software na minha época tentando escrever código de software, e agora posso codificar aplicativos à vontade para fazer todo tipo de coisa idiota em minha casa.

Existe um argumento semelhante aqui, onde um grupo de pessoas que têm intuição matemática, mas não tinham a linguagem formalizada ou a formação em matemática acadêmica, podem agora acessar um modelo e impulsionar o campo adiante? Porque geralmente isso é o que prejudica as críticas dos profissionais é que, bem, muito, muito mais pessoas agora têm acesso a essa coisa que só você teve acesso por causa do seu dinheiro e do seu treinamento.

Irritantemente, vou dizer que é uma coisa dupla novamente. Mas sim, num sentido amplo, sim, é. Muitos dos matemáticos com quem conversei estavam quase cansados ​​disso, na verdade. Eles adoram a ideia, em teoria, de democratizar o acesso. Eles também estão bastante fartos de artigos gerados ou assistidos por IA que inundam todas as publicações imagináveis, bem como dos servidores de pré-impressão que usam nessas áreas.

Algumas das pessoas com quem conversei disseram coisas como: “Ah, recebi três e-mails esta semana sozinho com pessoas dizendo: ‘Ei, isso é legítimo?’” Porque eles pensaram que tinham resolvido algo com o ChatGPT ou com Claude, e também não têm habilidades matemáticas para verificar se realmente resolveram algo.

Por outro lado, há partes em que eles disseram: “Bem, temos um estudante talentoso que fez algo que um estudante talentoso provavelmente nunca teria conseguido, e aqui estão eles fazendo um trabalho de pós-graduação e produziram um artigo que é legítimo”. E no esquema geral das coisas, alguns com quem falei disseram: “Bem, sim, muitos destes estão na torre de marfim. Ter acesso a este tipo de coisas a nível global poderia realmente aumentar o acesso a este tipo de coisas aqui”.

Por outro lado, o custo. Essas coisas custam muito para serem executadas. É sempre fácil esquecer quando você usa, digamos, uma versão gratuita do ChatGPT ou Claude ou algo assim. Nos níveis mais elevados, estas coisas custam dinheiro. Eles podem não custar necessariamente muito dinheiro – afirmou a OpenAI, acho que foram US $ 2.000 por esses 10 resultados, mas isso não leva em consideração literalmente mais nada depois de obtê-los, então é um número muito generoso. Mas mesmo considerando esse número, a matemática é uma disciplina bastante pobre, mesmo em instituições muito abastadas.

Colva Roney-Dougal, de St. Andrews, com quem conversei, disse: “Bem, muitas vezes não me preocupo em conseguir uma bolsa de pesquisa. Não preciso de uma. Só tenho um quadro negro”. E então, se você não está conseguindo nem mesmo uma bolsa de pesquisa, US$ 2.000 é muito para investir. Assim, poderia bloquear os investigadores dessa forma, mesmo em instituições bastante bem financiadas. Sem mencionar a velocidade com que isso está acontecendo, que praticamente ninguém teria sido capaz de incorporar nada disso em uma proposta de financiamento ainda, foi outro tema que me deparei com frequência.

Na verdade, Roney-Dougal tem outra ótima citação em seu artigo sobre a natureza dos laboratórios de IA e como eles falam sobre matemática. Ela disse: “Eles estão tratando nossa disciplina como um playground de publicidade”. Um grupo de matemáticos assinou algo chamado Declaração de Leidenque é uma carta aberta para prometer não acreditar no entusiasmo em torno da IA.

Essas coisas estão correndo uma contra a outra. Os laboratórios de IA não vão parar de usar todas as disciplinas como playground de publicidade. E um bando de matemáticos que dizem: “Recusamo-nos a aceitar o hype”, certamente não parece estar a impedir o hype.

Há apenas uma parte disto que é a resistência profissional organizada a algo que está a derrubar um campo que, como você diz, tem sido bastante barato de operar, e que agora pode estar a ficar mais barato ou mais fácil de aceder ou mais fácil de derrubar, dia após dia. Os matemáticos acham que isso será eficaz? Historicamente, os matemáticos não são operadores políticos experientes. Há uma parte de mim que diz: “Ah, eles vão ser atropelados”.

Não sei. Na história da matemática, na verdade, acho que muitos deles eram bastante experientes. Isaac Newton é aquele que sempre vem à mente para isso – embora também seja um operador político mesquinho. Mas sim, esse é o medo. Alguns com quem conversei, e um deles realmente me vem à mente, mencionaram que muitas vezes existe essa crença de que a matemática é o auge do conhecimento. Mas ele disse: “Bem, isso é besteira”. E ele não foi o único a ilustrar esse sentimento.

Mas é bom para exibição, é uma disciplina muito mais organizada e muito mais barata. Você mencionou Marcus fazendo referência ao Watson da IBM e à ambição de curar o câncer. Bem, isso envolve muitos experimentos complicados, inclusive com pessoas. Você não precisa disso em matemática, então é uma disciplina muito fácil de entrar, aplicar seu peso e depois mudar para algum lugar mais lucrativo, se é isso que você deseja.

Não estou dizendo que é isso que eles estão fazendo. Muitas pessoas nessas empresas foram contratadas. Não duvido de suas credenciais, com certeza, e também não duvido de suas motivações. Isso levanta uma questão de longo prazo sobre até que ponto isso é viável. Porque, sejamos claros, no que diz respeito a cada área, não consigo imaginar os matemáticos sendo um cliente empresarial muito lucrativo para essas empresas.

O que pode ser lucrativo é impulsionar um campo para transformá-lo em algo economicamente viável. Impulsionamos a matemática como um campo, que se transforma em algum avanço de engenharia ou física baseado nessa matemática, e que se transforma, não sei, em mais uma forma de lançar foguetes.

Aí acontece algum círculo que não entendo muito bem, mas que é a história da inovação, da pesquisa, à engenharia, aos produtos ou serviços que dão dinheiro. Será que está na cabeça de algum destes matemáticos que ultrapassar os limites aqui é algo que é radicalmente economicamente lucrativo?

A resposta imediata que vem à mente aqui é que muitos estão com medo de que o campo esteja fechando. Então, por definição, essas descobertas que levam a algo surpreendente e novo que você pode dizer: “Ah, isso funciona aqui” podem não estar mais acontecendo. Na verdade, esse esforço lucrativo de aplicar a matemática a todo este novo campo que pode envolver muito dinheiro permanece uma questão em aberto sobre se algo assim seria possível se estivéssemos fechando caminhos, em vez de abri-los.

Certo, se o incentivo económico para resolver o problema não resolvido for reduzido porque você pessoalmente não ficará rico se um computador apenas resolver todos os problemas não resolvidos, algo muito fundamental se quebra aí.

Muito disso se resume ao fato de que não se trata apenas de resolver problemas. Com muitas dessas coisas, como dissemos, trata-se do que a resolução desse problema lhe diz em outro lugar. Se estes fossem problemas muito lucrativos para resolver, imagino que mais pessoas estariam a tentar resolvê-los do que as que os abandonaram durante décadas.

Esta é a natureza de grande parte da ciência pura e é uma crítica mais ampla ao que talvez esteja acontecendo com a abordagem da administração Trump à política científica neste momento, na medida em que é muito focada nas aplicações. Há algo em fazer pesquisa pura que pode render dividendos potencialmente muito grandes que são, por definição, também totalmente imprevisíveis. Você não pode planejar isso.

O medo que penso em relação à matemática é que, ao resolver todos esses problemas, e também fazê-lo sem abrir novas áreas de pesquisa, o que resta? Mesmo que seja de um ponto de vista mais lucrativo, “O que você está buscando”, se você não estiver abrindo novas áreas de pesquisa e apenas marcando as antigas, isso apenas deixa um grande ponto de interrogação sobre o que pode restar em seu rastro.

Mesmo aqueles com quem falei que estavam muito entusiasmados com o que está acontecendo, disseram que nem eles sabem realmente o que está acontecendo. E eles estão entusiasmados em um nível pessoal porque: “Oh, talvez possamos fazer isso, talvez possamos fazer aquilo”. Mas ainda havia essa incerteza persistente de tipo, bem, onde isso deixa o campo?

Especialmente para disciplinas mais puras, como a matemática científica, é mais difícil dizer o que vem a seguir. Porque em muitas outras ciências você pode dizer: “Bem, tudo bem, bem, eles mudariam para mais problemas de engenharia, ou para aplicá-los”. Mas se você resolver todos os problemas no terreno e não houver nada sendo construído a partir disso, para onde você irá a partir daí?

Uma coisa ótima sobre A beira é que nossos comentaristas são vastos, eles têm muito conhecimento e houve um comentário de um pesquisador matemático sobre sua história que só quero ler para você e ver se você acha que esta é a estrutura correta.

Aqui está: “Não tenho dúvidas de que esses modelos trarão grandes mudanças no campo, mas em seu estado atual, eles ainda não nos levarão à obsolescência. Apenas ocuparão um lugar particularmente útil em nossa lista de truques. Minha apreensão vem de não saber onde essas coisas atingirão o pico, mas no geral continuo otimista. Acho que a IA será um benefício líquido para a matemática quando usada corretamente.”

Eu sinto que “a IA será um benefício líquido para X quando usada corretamente” é exatamente onde você chega na vida em muitas coisas, mas essa é a resposta mais otimista que já ouvi: “Se acertarmos, vai ser ótimo”. É essa a vibração ou ainda está mais em estado de choque do que isso?

Eu diria que o choque ainda é a impressão predominante. Acho que talvez a resposta instintiva a isso seja: “Bem, será um resultado positivo para quem e o que é ‘corretamente’?” Todas essas são questões bastante legítimas aqui.

Houve algumas respostas sombrias de estudantes de pós-graduação que vi em ensaios publicados on-line. Qual é o lugar deles como futuros pesquisadores? Eles têm um lugar nisso? É como um verificador de prova de IA glorificado? Essa será uma carreira bastante insatisfatória, imagino.

Ou talvez não, não sei. Vamos ver. Acho que qualquer coisa usada corretamente será um benefício líquido. Mas sim, acho que tudo se resume ao que “corretamente” significa e de quem estamos falando.

Eu sinto que, estranhamente, esse é um excelente lugar para deixar isso. Porque não acho que nenhum de nós saiba, e suspeito que no próximo ano as coisas entrarão em foco. Porque em algum momento, a OpenAI terá que mostrar às pessoas como elas fizeram as coisas dos modelos. E talvez o mais importante é que os outros laboratórios vão querer replicar estes resultados ou mostrar que podem ir mais longe, o que terá necessariamente de levar a um pouco mais de transparência e a ainda mais matemáticos a ter uma crise convosco.

Robert, muito obrigado por estar no programa. Teremos você de volta em breve.

Obrigado por me receber.

_{Perguntas ou comentários? Contate-nos em decoder@theverge.com. Nós realmente lemos todos os e-mails!}