As famosas ideias de Alan Turing sobre inteligência artificial podem ter levado a investigação da IA para o caminho errado nos últimos 75 anos, de acordo com o eminente cientista da computação Peter J. Denning.
Em seu novo livro, A Falácia de Turing: Evitando o Jugo de Máquinas Não InteligentesDenning argumenta que duas suposições fundamentais feitas por Turing em 1950 continuam a moldar a pesquisa em IA hoje. A primeira é que a inteligência pode existir independentemente do corpo físico e, portanto, ser recriada em software de computador. Em segundo lugar, uma máquina pode demonstrar inteligência imitando com sucesso uma conversa humana, uma ideia que mais tarde ficou conhecida como Teste de Turing.
“Essas duas declarações moldaram grande parte da pesquisa e do desenvolvimento da inteligência artificial”, escreve Denning. “Minha opinião é que nossa aquiescência tácita a essas afirmações levou à confusão de IA em que nos encontramos hoje.”
Denning argumenta que é improvável que a busca pela inteligência artificial geral (AGI), ou máquinas com inteligência de nível humano, tenha sucesso. Em vez disso, alerta ele, as tecnologias que a sociedade está a construir poderão trazer novos riscos significativos.
O problema do conhecimento tácito
No centro do argumento de Denning está a ideia de conhecimento tácito, a vasta quantidade de compreensão humana que não é facilmente expressa em palavras ou apresentada de uma forma que os computadores possam processar.
Ele diz que o aprendizado de máquina não pode capturar cinco categorias principais de conhecimento tácito: bom senso, interações diárias com as pessoas e o meio ambiente, emoções e percepção, habilidades práticas de desempenho e conhecimento social e histórico culturalmente incorporado.
Os pesquisadores há muito tentam organizar o bom senso em bancos de dados. Um dos esforços mais conhecidos de Douglas Lennott foi o projeto Cyc, que começou na década de 1980 com o objetivo de criar uma extensa coleção de fatos de bom senso. Após quatro décadas de operação, o projeto continha cerca de 25 milhões de registros.
“Mas mesmo este tesouro não poderia atingir um nível de bom senso suficiente para tornar os sistemas especialistas suficientemente inteligentes para serem especialistas”, observa Denning. “Cyc confirmou que muito do conhecimento que torna as pessoas especialistas não pode ser formulado como sentenças.”
Denning acredita que as habilidades práticas representam um desafio ainda maior.
“Nossas habilidades de execução em milhares de domínios não podem ser transferidas para máquinas”, explica. “Embora as descrições de resultados habilidosos (‘saber o quê’) possam muitas vezes ser representadas como bits e armazenadas em uma máquina, não sabemos como codificar o conhecimento incorporado para um desempenho habilidoso (‘saber como’).”
Ele cita músicos experientes como exemplo.
“Um violinista virtuoso pode tocar uma bela música, mas não consegue descrever a um acólito como criá-la.
“Mesmo que um robô pudesse observar e imitar humanos experientes que não possuem um corpo biológico, um robô não pode entender o que um músico sente quando toca uma bela música, ou o que o público sente quando a ouve.”
Denning também classifica a intuição, a intuição, a imaginação e a criatividade espontânea como formas de conhecimento tácito que permanecem fora do alcance das máquinas.
Por que o conhecimento humano resiste à codificação
Denning argumenta que todas essas limitações decorrem do que ele chama de “problema da representação”.
Os computadores só podem realizar cálculos usando dados e instruções codificados em formas físicas que possam reconhecer e processar. O conhecimento tácito, contudo, não se enquadra naturalmente neste quadro.
“Por trás de cada palavra existe um poço profundo de conhecimento tácito que lhe dá significado”, diz Denning. “As palavras são apenas representações simbólicas de significados, não os significados em si. Grandes modelos de linguagem comumente usados, como ChatGPT, Claude e Gemini, apenas manipulam palavras, eles não podem saber ou compreender o significado do que dizem.”
Segundo Denning, isto cria uma divisão fundamental. Como os cientistas ainda não conseguem explicar completamente como o conhecimento tácito funciona nos seres humanos, também não conseguem traduzi-lo numa forma que as máquinas possam utilizar.
“A forma como armazenamos o conhecimento tácito é em grande parte um mistério”, admite Denning. “Tudo o que sabemos é que está incorporado. Não temos ideia do que podemos observar e medir em nossos corpos para descobri-lo.”
Contexto e cultura moldam a inteligência
Denning também argumenta que a inteligência é altamente dependente do contexto, das circunstâncias circundantes que dão significado às palavras, ações e decisões.
O contexto permite que as pessoas reconheçam sarcasmo, humor, sinceridade e emoção. Ajuda a determinar quando ser diplomático, quando brincar e como interpretar inúmeros sinais sociais.
“Quando você pergunta de onde veio a suposição sobre o contexto atual, descobre que ela se baseia em conversas anteriores de contextos anteriores. Cada uma delas, por sua vez, baseia-se em conversas anteriores subsequentes e em seus contextos. Esse padrão é infinito e fractal”, explica Denning.
A cultura é outro grande obstáculo para a IA.
Denning descreve cultura como valores, normas, opiniões, história, comunidades, atitudes e até relacionamentos relacionados ao poder e ao cuidado.
“As conversas humanas estão imbuídas de suposições básicas que dão sentido e importância às palavras usadas”, explica Denning.
“Escalar LLMs com redes neurais cada vez maiores não lhes permitirá adquirir o conhecimento humano incorporado que chamamos de cultura. O LLM não alcançará o objetivo do Teste de Turing: demonstrar o pensamento da máquina indistinguível do pensamento humano.”
A segurança da inteligência artificial e os limites da compreensão humana
Denning conclui que os humanos e os sistemas de inteligência artificial podem eventualmente desenvolver várias formas de conhecimento tácito que nenhum deles consegue compreender completamente.
“As máquinas não conseguem ler o nosso conhecimento tácito e nós não podemos lê-los”, escreve ele. “Somos alienígenas atravessando uma lacuna intransponível.”
Ele argumenta que esta lacuna levanta sérias preocupações sobre a segurança da inteligência artificial. A menos que as máquinas consigam interpretar o contexto tácito por trás da intenção humana, pode ser impossível alinhar de forma confiável os sistemas avançados de IA com a intenção humana.
“Através da automatização da inteligência artificial, as redes de máquinas ativas provavelmente desenvolverão a sua própria inteligência de máquina que fica aquém da inteligência humana geral, mas ainda é totalmente capaz de criar problemas graves para os seres humanos. Esta ameaça é mais significativa do que a captura por máquinas superinteligentes”, explica ele.
“A inteligência das máquinas tem outras preocupações além das nossas e parece não se importar conosco. Suas maneiras de pensar e resolver problemas nos parecem estranhas. Ainda não sabemos como viver com segurança com essas máquinas.
“Para abandonar a singularidade da automação da inteligência artificial, começamos por reconhecer que a cultura habitual desaparece quando máquinas inteligentes aparecem na nossa sociedade e não sabemos o que vai acontecer. Recusamo-nos a pensar como máquinas ou a obedecer a máquinas. Recusamos submeter-nos ao jugo imposto por máquinas de baixa inteligência. Mais importante ainda, reafirmamos a nossa humanidade, reafirmamos o que nos torna quem somos. diferentes das máquinas e apreciamos essas diferenças.”
