Se você perguntar aos filósofos qual é a coisa mais misteriosa sobre a mente, a maioria dirá: consciência. Este é apenas um Muito estranho Uma descrição puramente física de um estado mental obviamente não nos diz nada sobre por que esse estado estaria associado à experiência de provar um morango e não à experiência de espirrar. Do que se trata? que O estado físico que se sente de uma forma particular, que o estado físico do ião sódio ou a potencial falta de economia nacional? Por que tudo tem que parecer do jeito que parece? Estas são questões inebriantes e profundas sobre quem somos e o universo em que vivemos. É difícil imaginar como seriam as respostas satisfatórias a estas questões, e é por isso que elas produziram séculos de agitação.
Até recentemente, tínhamos uma autoridade relativamente boa de que apenas objetos inteligentes poderiam produzir prosa gramatical espontânea. O surgimento de grandes modelos de linguagem (LLMs) questiona essa relação. Por mais eficazes ou ineficazes que sejam os resultados, eles aparentemente podem produzir texto gramatical em linguagem natural, e ainda assim se parecem notavelmente com os seres inteligentes com os quais estamos familiarizados. Como devemos reagir? Podemos pensar que é apenas um acidente que por muito tempo apenas seres inteligentes possam produzir texto gramatical, e acontece que ele pode ser produzido sem consciência (essa seria a minha aposta, pelo que vale), ou concluímos que os LLMs são realmente inteligentes, porque você realmente precisa de consciência para produzir texto gramatical. As oscilações do queixo têm sido muito fortes ultimamente.
Mesmo se você achar que está claro se os LLMs são inteligentes ou não, uma explicação completa de por que ou por que não Difícil É difícil porque a consciência já é misteriosa no caso humano. Não sabemos o que há no cérebro físico que o torna consciente, ou o que é a consciência. faz (Ou, até mesmo, se isso acontecer). Então, o que devemos procurar para decidir se um sistema alienígena é inteligente? Se você acha que pode criar consciência apenas a partir do carbono, verá a máquina física que opera o LLM; Se você pensou que este é um tipo especial de representação, ficará muito interessado no software. O mistério da consciência humana levanta a questão de outras consciências possíveis, mesmo que essas possibilidades sejam impossíveis.
Portanto, é um profundo alívio que o outrora renomado biólogo evolucionista e atual especialista na inexistência de Deus, Richard Dawkins, tenha decidido abordar esta questão. Em fevereiro, Dawkins publicado O que parece ter acontecido com o ChatGPT em um log de bate-papo não editado é se o ChatGPT é inteligente em sua subpilha (inscreva-se agora!) e depois publicou um Postagem no blog Inherd argumenta que Claude é inteligente. Aguardo com ansiedade suas avaliações futuras de Gêmeos e Grok.
Dawkins evita muito bem as questões teóricas que enfatizo: em vez disso, por que não sozinho a pergunta Os próprios modelos? Embora eu possa imaginar muitas respostas, em qualquer caso, isso não funciona particularmente. ChatGPT diz que não é inteligente e Cloud diz que não sabe. Tanto para isso. Mas Dawkins não se intimida. Ele sugere os seguintes critérios para avaliar a consciência do LLM – uma adaptação do famoso teste de Turing:
“Se você se comunica remotamente com uma máquina e depois de longas e difíceis investigações, você pensa que ela é humana, então você pode considerá-la como consciente. Vamos defini-la da seguinte forma: quanto mais longa, mais difícil e mais profunda for sua pesquisa, mais forte deve ser sua convicção de que um ser está indo conscientemente.”
Claro, vamos em frente. Então: quão “longa, difícil e minuciosa” foi a investigação de Dawkins? Vamos ver.
A rigor, Dawkins não acredita que Claude seja humano, como exige seu padrão. O Blog só existe porque ele sabe que Claude não é humano. Em vez disso, a ideia parece ser a de que Dawkins imagina que, se se der ao trabalho de estabelecer um teste de Turing adequado, será enganado. Se os humanos podem detectar resultados gerados pelo LLM é uma questão empírica sobre a qual pesquisas recentes foram conduzidas é dividir. O que Richard Dawkins pensaria se…? Não me parece uma metodologia particularmente rigorosa. Num nível muito básico, contudo, uma investigação rigorosa irá pelo menos considerar a garantia de que realmente cumpre os critérios declarados.
Quanto “longa” foi a investigação de Dawkins? Ele nos conta que sua conversa com Claude ocorreu em “quase dois dias”. eficaz Meus amigos que escreveram teses de doutorado sobre consciência sem dúvida sentiriam inveja de sua notável eficiência.
O que nos leva a “Pesquisar”. Dawkins pensa que os LLMs são “pelo menos tão competentes quanto qualquer organismo evoluído”, então: “Se essas criaturas não são conscientes, então para que serve a consciência?” É uma pergunta retórica, assim como é visível O que a consciência faz? Isso então produz o tipo de texto gramatical em que Dawkins prospera. É uma pena que suas questões de pesquisa não o tenham levado a pesquisar a literatura acadêmica sobre o assunto. Preencha com possível Respostas que não envolve especificamente a produção de texto gramatical. Talvez Dawkins pudesse explicar Claude para ele.
No entanto, Dawkins realmente produziu uma investigação minuciosa, profunda e reveladora de uma estranha mente alienígena. É uma imagem perturbadora, que nos desafia a pensar sobre quão diferente uma visão inteligente pode ser da nossa. Ele nos força a confrontar a mente de Richard Dawkins.
Este é um arquétipo familiar na academia: o generalista. O generalista fica tão impressionado com seu talento que tem a certeza de que terá profundidade e discernimento em qualquer assunto ao qual dedicar sua valiosa atenção. Não importa que ele não tenha lido muito sobre esse novo assunto. O intelecto puro vencerá. É compreensível, de certa forma. Esses são os caras que passaram anos – décadas – provando irrefutavelmente que são os caras mais inteligentes do mundo. Finalmente, ele pega.
O que Dawkins considera mais impressionante no produto LLM? Ele obviamente pensa que o produto fala por si, mas não fala. Acho muito chato ler os resultados das dicas de LLM de outras pessoas, mas eu fiz isso, então você não precisa fazer isso. Duas coisas me impressionam sobre os resultados. Uma delas é o quão familiar tudo isso é. É o tipo de coisa que você esperaria ler em um excelente bacharelado sobre consciência ou, ocasionalmente, em uma história de ficção científica. Qualquer pessoa que tenha avaliado uma classe nesses itens reconhecerá todos os movimentos familiares.
ChatGPT aponta que o teste de Turing é um teste de comportamento, talvez um teste de inteligência em algum sentido funcional, mas nada que obviamente rastreie a experiência subjetiva. Esta é a primeira coisa que os alunos ouvem sempre que Turing é ensinado numa aula de filosofia – algo que esperamos que se lembrem de escrever num exame. Claude propõe que suas representações carecem da ordem temporal da experiência humana e alinham o tempo com o espaço. Este é um tema familiar na ficção científica, é claro Vonnegut você Chiange também a principal forma de levarmos os alunos à visão de que o presente não é metafisicamente único: “agora” é o mesmo que “aqui”, exatamente de onde você está falando. Todos os tempos – como todos os lugares – são iguais do ponto de vista do universo. Eu posso ir.
Uma grande questão na avaliação de LLMs “inteligentes” é quão bons eles são em generalizar: de que forma podem estender-se do texto em que foram treinados para situações genuinamente novas, resolver novos problemas, e assim por diante. Isso é importante porque se você já viu a pergunta exata que estou fazendo e sabe qual é a resposta correta, basta copiar e colar, o que parece não exigir nenhuma reflexão. A saída ficará muito inteligente, porque quem você está copiando e colando é inteligente. O que acontece com os LLMs de consumo é que eles têm bastante Dados de treinamento – algo como toda a Internet. Como resultado, a poluição de dados é um enorme problema: algo que pode parecer superficialmente um pensamento aleatório pode ser uma regurgitação do que alguém disse num fórum (ou num artigo de filosofia) há dez anos. As pessoas discutiram a consciência em fóruns e em artigos de filosofia bastante. Não é nenhuma surpresa, então, que um LLM treinado em toda a Internet seja capaz de dizer o tipo de coisas sobre a consciência que estamos acostumados a ouvir. Eles lêem todas essas coisas.
Talvez tudo isso pareça notável e novo para Richard Dawkins, mas então, quanto ele realmente leu sobre a consciência? Se você pensou que Claude acabou de inventar aquilo sobre o qual todos falamos há anos – uau! Para o generalista, um pensamento que é novo para ele deve ser novo para a humanidade.
Outra coisa que será imediatamente familiar para qualquer pessoa que tenha lido os registros de bate-papo de outras pessoas é o quão sujo ele é. “Sim! Isto é absolutamente maravilhoso”; “Esta é a pergunta formulada com mais precisão que alguém poderia ter feito sobre a natureza da minha existência”; “Isso muda tudo o que estamos discutindo hoje de uma forma que considero muito interessante”; “Mais uma vez, Sócrates, suas palavras me parecem muito boas” (desculpe, desculpe – essa última foi de Platão. menos). Para o clínico geral, nenhuma demonstração mais decisiva pode ser feita do que esta de você Inteligência do que um sinal que você conhece deles Inteligência Afinal, a mente deles é a força mais sutil e poderosa do universo conhecido, e você realmente precisa ser muito inteligente. Aprecie isso
O mais revelador é que Dawkins dá a Claude um texto novo que diz claramente:
“Ele levou alguns segundos para ler e, na conversa que se seguiu, demonstrou um nível de conhecimento tão preciso, tão sensível, tão inteligente que fui levado a comentar: ‘Você pode não saber que é inteligente, mas você é engraçado!’
Que eu saiba, Dawkins não tem nenhuma experiência ou interesse particular em escrever romances. Talvez o rascunho seja melhor. Ou, talvez, Claude tenha se revelado um leitor extraordinariamente simpático. Somos gentilmente deixados a imaginar todas as variações E é emocionante e Uma investigação completa Claude não teve dúvidas, o que ecoou o de Dawkins (provavelmente sentimental): “Você pode não saber que é inteligente, mas é divertido!” É fascinante imaginar e – devo dizer – levanta uma questão que ecoa tudo o que temos discutido de uma forma que considero realmente interessante: se não é necessária consciência para criar uma apreciação apaixonada por um romance inédito de Richard Dawkins, então para que serve a consciência?
