Hannah Fry: “A IA pode fazer coisas sobre-humanas, mas as empilhadeiras também.”

Você provavelmente está pensando muito mais em inteligência artificial hoje do que há cinco anos. Desde que o ChatGPT foi anunciado em novembro de 2022, nos acostumamos a interagir com IA na maioria das áreas de nossas vidas, desde chatbots e tecnologia doméstica inteligente até bancos e saúde.

Mas, como mostra a matemática e radialista Hannah Fry, uma mudança tão rápida traz consigo problemas imprevistos. Confidencial de IA com Hannah Fryum novo documentário da BBC em três partes, no qual ela fala com pessoas cujas vidas foram transformadas pela tecnologia. ela falou novo cientista Como encarar a IA, o seu papel na matemática moderna e porque irá transformar a economia global.

Beethan Ackerley: O programa explora o que a IA está fazendo com nossos relacionamentos e nosso senso de realidade. Parte disso vem da ideia de “alcançar a IA”, ou a ideia de que essas ferramentas nos dão o que queremos ouvir, não o que precisamos ouvir. Como isso pode acontecer?

Hannah Fry: Os modelos anteriores eram muito lisonjeiros. Tudo o que você escreve, eles dirão: “Oh meu Deus, você é tão incrível, você é o melhor escritor que já tive”. Existem algumas melhorias agora, mas existem inconsistências fundamentais. Queremos que eles sejam ajudados, encorajados e se sintam importantes. Isso é o que você obtém de relacionamentos realmente bons.

Ao mesmo tempo, relacionamentos realmente bons permitem que as pessoas digam em voz alta as coisas difíceis. Se você colocar muito disso em uma IA, ela se tornará inútil, lógica e nada divertida de se ter por perto. Também há muitas pessoas que usaram seus parceiros como terapeutas e terminaram com eles porque a IA lhes disse para se livrarem dele.

Algumas pessoas abandonaram seus empregos. Existem pessoas que tentaram ganhar dinheiro usando IA e perderam suas fortunas porque confiaram demais em suas habilidades. Depois que você começa a incluir todas essas pessoas, isso se torna um grupo muito grande. Acho que todos conhecemos alguém que foi afetado pela bolha e pela radicalização das redes sociais. Acho que esta é uma nova versão disso.

Ver esses problemas mudou a maneira como você usa a IA?

O que mudou foi a forma como os prompts são apresentados. Então agora eu os desafio regularmente a descobrir meus preconceitos, dizendo-lhes o que não vejo. Por favor, não me elogie, mas também me conte as coisas difíceis.

Se você não quer que a IA faça isso, então o que você quer que a IA faça?

A resposta provavelmente depende da situação. Existem exemplos surpreendentes no campo da ciência. Estou pensando no AlphaFold (IA que prevê estruturas de proteínas). Avanços surpreendentes foram feitos na matemática e os algoritmos têm uma inteligência diferente da humana. No entanto, não creio que seja possível construir um bom modelo de inferência, a menos que ele se sobreponha conceitualmente ao que os humanos entendem sobre o mundo. É por isso que acho que deveríamos ser mais humanos.

Parece que todos os dias há notícias de um problema matemático que está sem solução há anos e está sendo resolvido com IA. Isso te excita?

Gosto de pensar nisso como se houvesse um mapa maravilhoso da matemática e os matemáticos humanos estivessem em uma área específica e orbitassem em torno dele. Eles nem sempre estão cientes das conexões com as coisas próximas. Matemáticos incríveis descobriram uma ponte entre duas áreas de um mapa, como a conjectura de Taniyama-Shimura. Nesta conjectura, os matemáticos japoneses construíram uma ponte entre duas áreas da matemática que estavam separadas. E tudo o que sabemos aqui se aplica ali e vice-versa.

Acho que a IA é muito boa em dizer: “Ei, olhe aqui. Esta parece uma área frutífera que ainda não foi explorada”. Isso é muito, muito emocionante. O que a IA não gosta é de ultrapassar ainda mais os limites. E o que eu sou realmente ruim é… abstração completa, ter teorias maiores e mais amplas. As pessoas sempre dizem que se você desse tudo à IA até 1900, ela não criaria a relatividade geral. Ainda estou entusiasmado por estarmos neste ponto ideal, onde a IA está tornando a matemática humana mais rápida, mais eficiente e mais emocionante, mas ainda precisa de nós.

Existem muitos conceitos errados sobre IA. Qual você gostaria de eliminar se pudesse?

As pessoas imaginam que é onipotente, quase onipotente. “A IA disse: A IA me disse para comprar essas ações.” Existem certas situações em que a IA pode fazer coisas sobre-humanas, e as empilhadeiras não são diferentes. Há muito tempo construímos ferramentas que podem fazer coisas que os humanos não podem fazer. Isso não significa que eles sejam semelhantes a deuses ou tenham conhecimento intocável.

Você não vai dar acesso à sua conta bancária a uma empilhadeira…

não! isso mesmo. Acho que é disso que se trata – a estrutura dessas coisas. Eles falam uma língua e falam conosco, então se sentem como seres vivos. A Wikipedia não tem esse problema. Pense nisso menos como uma coisa viva e mais como uma planilha Excel realmente capaz.

Por que tendemos a antropomorfizar a IA?

Nossos corpos estão sintonizados com relações sociais cognitivas. Somos uma espécie inteligente e sociável. E este é um ser aparentemente inteligente e aparentemente social. Claro, também incluiremos personagens. Não há nada em nosso passado ou projeto que nos leve a fazer outra coisa.

Existe uma maneira de evitar esse impulso antropomórfico?

Acho realmente injusto deixar isso nas mãos de indivíduos. Isso é como dizer que junk food está disponível de graça, então é sua responsabilidade garantir que você não coma demais. Temos agora provas muito boas de que a forma como estas interfaces são desenhadas, as conversas que temos com os utilizadores, tudo isto está a levar as pessoas a cair cada vez mais nesta armadilha. E penso que só através da concepção destes sistemas poderemos evitar que as pessoas caiam na toca do coelho.

Há muitas questões sociais que a IA traz à luz, como o facto de as pessoas se tornarem muito isoladas e solitárias. Mas será que a IA não consegue resolver estes problemas?

Mesmo se dissermos: “Ok, você não pode falar com um chatbot quando estiver se sentindo sozinho, vamos proibir isso”, ainda haverá pessoas solitárias. E claro, seria ótimo se todos tivessem relacionamentos ricos, mas não é o caso. Portanto, dado que este é o mundo em que vivemos, penso que há algumas situações em que falar com um chatbot pode aliviar alguns dos piores problemas da solidão. No entanto, estes são temas delicados. Quando você começa a usar a tecnologia para resolver problemas verdadeiramente humanos, existe uma vulnerabilidade incrível em tudo isso.

Vamos falar sobre o futuro distante. Muitas vezes pensamos em cenários extremos usando IA. Por exemplo, digamos que uma IA superinteligente projetada para fazer clipes de papel transforme todos nós em clipes de papel. Quão útil é pensar sobre esses cenários apocalípticos?

Uma coisa que me impressionou foi que esses cenários rebuscados e rebuscados distraíam o que era realmente importante: que as decisões que afetam a vida das pessoas estavam sendo tomadas por algoritmos. Mudei de ideia nos últimos anos. Porque acreditamos que só preocupando-nos com algo assim poderemos construir mecanismos tecnológicos de segurança para evitar que isso aconteça.

Portanto, preocupar-se não é inútil e há um poder real na preocupação. A IA tem potencial para resultados realmente ruins e, quanto mais honestos formos sobre eles, maior será a probabilidade de mitigá-los. Quero fazer com que seja como o problema do ano 2000. É com isso que nos preocupamos e nos preocupamos, e tomamos medidas para evitar que isso aconteça.

Você acha que algum dia alcançaremos a inteligência artificial geral?

Não há uma definição clara do que é AGI. Mas se AGI significa que os computadores são pelo menos tão capazes quanto a maioria dos humanos em qualquer tarefa que envolvam, então sim, estamos quase lá. Algumas pessoas acreditam que AGI significa que excede as capacidades humanas em todas as tarefas. Isso não está claro para mim. Mas acho que a AGI nunca está longe. Eu realmente acredito que haverá mudanças dramáticas nos próximos 5 a 10 anos.

O que muda?

Penso que haverá grandes mudanças no modelo económico a que estamos habituados ao longo da história humana. Acho que veremos grandes avanços na ciência e também no design de medicamentos, e estou realmente ansioso por isso. Toda a estrutura da nossa sociedade é construída em torno da ideia de trocar o trabalho, o conhecimento e a inteligência humana por dinheiro e usá-lo para comprar coisas. Acho que há algum tipo de vulnerabilidade nisso.