A IA pensa, logo a IA existe
Álbum / Alamy
Alguns dos maiores desafios da inteligência artificial estão a ser enfrentados não por cientistas da computação que estudam o código em profundidade, mas por filósofos atraídos da academia para empresas de IA. Os filósofos têm a missão de tornar a próxima geração de modelos mais capazes e confiáveis, ao mesmo tempo que esclarecem os mistérios da consciência e se a inteligência pode ser recriada apenas através de software.
Jonathan Birch Investigadores da Escola de Economia e Ciência Política de Londres afirmam que as empresas de IA são agora os principais empregadores de estudantes de doutoramento em filosofia e que as ofertas de trabalho interessante, salários elevados e opções de ações estão a revelar-se demasiado atrativas para muitos resistirem.
“Temas que têm sido estudados nos departamentos de filosofia há décadas – como tomar decisões racionais, como sistematizar princípios morais, o que conta como pensamento e raciocínio, introspecção e o que conta como evidência de consciência – são subitamente de grande valor para as empresas de IA”, diz Birch. “Portanto, não é de surpreender que estejamos vendo uma enorme fuga de cérebros.”
Uma das tarefas importantes Porque este grupo de filósofos é um alinhamento. Este é o termo da indústria de IA para os esforços para impedir conteúdo prejudicial, como revelar instruções sobre como fazer uma bomba.
Os esforços para evitar que os modelos de IA produzissem resultados perigosos concentraram-se inicialmente na implementação de barreiras de protecção simples a preto e branco, tais como proibir os modelos de falar completamente sobre bombas. No entanto, estes revelaram-se desajeitados e facilmente contornáveis. As empresas estão agora a seguir métodos mais sofisticados que se concentram numa compreensão filosófica do certo e do errado.
No entanto, raramente é fácil. Os pesquisadores dizem ter descoberto que quando você diz a um modelo para quebrar uma regra em uma situação específica, o modelo começa a quebrar muitas outras regras. Shane Glackin na Universidade de Exeter, Reino Unido. E compreender a razão disso é o tipo de problema que pode ser resolvido pela análise lógica filosófica.
“A melhor explicação para isso parece ser que, no fundo do corpus de texto em que está sendo treinado, existem links semânticos que conectam o que está bem codificado e o que está mal codificado, e quando você deixa algo ruim, ele percebe isso, extrapola e começa a fazer outras coisas ruins”, diz Glackin. “Como especialistas em ética, uma maneira de entender o que fazemos é tentar elucidar a forma e o escopo de conceitos como certo e errado, certo e errado, e que tipos de coisas se enquadram neles no uso comum e nos conceitos conceituais. Parece que esse é exatamente o tipo de análise que o LLM está fazendo.”
Outras tarefas importantes para os filósofos de empresas de IA incluem a redução de ilusões (um termo da indústria para invenções produzidas por modelos), a melhoria do desempenho em geral e a abordagem de preconceitos inerentes aos modelos. Eles também estão aplicando teorias da consciência humana a modelos de IA para responder à persistente questão de saber se a IA é senciente.
“O que a mente faz? O que o cérebro faz? O que ele pode replicar? Estas são grandes questões para a IA. Esta é uma questão muito importante para a IA responder, e é algo em que os filósofos vêm pensando há muito tempo”, disse Glackin.
a pergunta mais irritante
Mahrad Almotahari Um professor da Universidade de Edimburgo, no Reino Unido, que conhece dois acadêmicos que ingressaram em empresas de IA e assumiram eles próprios trabalhos de consultoria para organizações comerciais, diz que a filosofia e a ciência da computação têm uma longa história. Na verdade, o artigo em que Alan Turing publicou o seu famoso teste conhecido como Teste de Turing para determinar se uma máquina pode exibir as características de um ser inteligente foi publicado numa revista de filosofia. coração.
O tamanho exato dos empregos é difícil de estimar, mas Aaron Kagan, presidente do Comitê de Carreiras Não Acadêmicas da Associação Filosófica Americana, examinou mais de perto os anúncios de emprego para obter informações. “Uma simples contagem de palavras-chave mostra que 26,6% das funções mencionam ética, segurança, coordenação, governança ou política de IA, mas quando você remove o padrão, apenas cerca de 5% estão substancialmente envolvidos nesse trabalho”, diz Kagan.
Almotahari acredita que o conhecimento filosófico é valioso para as empresas de tecnologia, mas não acredita que as questões mais incómodas sobre a consciência das máquinas possam ser respondidas pelas empresas de tecnologia. Em vez disso, os filósofos podem conseguir ajudar os engenheiros a distinguir o que se passa dentro de um modelo, diz ele.
“Há muitos cálculos em andamento. Podemos extrair disso uma descrição de nível superior do que está acontecendo, por exemplo, em termos desta parte do modelo que representa aquela característica do mundo e desta parte que representa outra característica do mundo?” Almotahari pergunta. “Acho que os filósofos estão em uma boa posição para passar das descrições de engenharia para as descrições representacionais.”
Alguns veem um problema potencial em questão: a contratação de filósofos pela indústria poderia, em última análise, levar a pesquisas tendenciosas que atendem aos interesses das empresas de tecnologia.
“É claro que muitas pesquisas filosóficas sérias serão financiadas pela indústria no futuro. Eles têm expectativas, explícitas ou implícitas, que desejam satisfazer e têm o poder de favorecer autores que forneçam argumentos e ideias bem-vindos”, diz Birch. “Gostaria que tivéssemos feito mais progressos nas grandes questões filosóficas sobre consciência, agência, moralidade, etc. antes do surgimento da IA. Se tivéssemos feito, estaríamos melhor preparados. Com o advento da IA, estas questões tornaram-se muito mais urgentes, mas as respostas ainda parecem distantes.”
tópico:
