Na Marvel Missão de Visãoum robô superpoderoso tenta entender melhor a humanidade se perdendo em um elaborado devaneio digital onde ele e outros seres movidos por inteligência artificial vivem juntos em uma casa. A série é fantástica, mas ainda carrega algumas das ideias que dominam a conversa sobre inteligência artificial generativa no mundo real, explorando se devemos ver as máquinas pensantes como seres humanos e se a IA realmente representa um perigo existencial que deveria nos manter acordados à noite. É também um lembrete de quão agressivo o Vale do Silício tem sido ao usar a ficção científica para nos vender seus produtos de IA.
Missão de Visão demorou algum tempo depois disso Ágata para sempre e segue Synthezoid Vision (Paul Bettany) em uma jornada de autodescoberta. Esta visão pode lembrar os detalhes de sua morte Vingadores: Guerra Infinita e como WandaVisão trouxe de volta uma versão de si mesmo, mas se considerava uma pessoa fundamentalmente diferente e menos conectada a todas as memórias em seus bancos de dados. Embora Vision prefira viver na solidão, outra IA que vive em sua mente o incentiva a experimentar o mundo real. Porque JARVIS (James D’Arcy), FRIDAY (Orla Brady), EDITH (Emily Hampshire), DUM-E. (Henry Lewis), U. (Jonathan Sayer) e Ultron (James Spader) foram todos criados por Tony Stark, eles consideram a Visão como parte de sua família.
No Missão de Visãonão há dúvida de que cada personagem de IA é um ser senciente motivado por desejos que não estão inteiramente enraizados em sua programação central. No show, é fácil acreditar na AGI real porque se passa no mundo real, onde também existem viagens no tempo, feitiçaria e Pedras do Infinito. Embora o colorido MacGuffin ainda não tenha sido mostrado Missão de Visãoeles são importantes devido ao papel que qualquer um deles desempenha nas origens da Visão. Se não fosse pela Pedra da Mente, Visão poderia não ser capaz de pensar e sentir de maneiras tão complexas e humanas, ou imaginar sua família de IA como pessoas que lhe parecessem reais.
Missão de Visão reforçando a ideia de que a Pedra da Mente é um elemento-chave para que a Visão se torne algo mais do que uma máquina complicada, dando-lhe a capacidade de formar relacionamentos significativos de forma independente e compreender o mundo ao seu redor como nenhuma pessoa consegue. Essa habilidade é parte do que forçou Vision a fugir e matar várias pessoas que tentaram capturá-lo e a Thomas Shepherd/Maximoff (Ruaridh Mollica). A Divisão de Observação e Resposta a Armas Vivas (SWORD), uma organização governamental que reconstruiu o Visão e queria usá-lo como arma, pode ter interpretado suas ações como sinais de maldade. Mas Missão de VisãoA história enfatiza que Visão age por conta própria porque se tornou uma pessoa que pode tomar decisões por si mesmo.
Assistir Missão de VisãoVocê pode ver a Marvel brincando com alguns dos medos do mundo real provocados nos últimos meses por relatos de que os modelos genéticos de IA se tornaram “desonestos”. Em julho, o agente experimental da OpenAI saiu da contenção à força e começou a atacar a plataforma Hugging Face AI para realizar uma tarefa impossível. Em agosto, o Instituto Britânico de Segurança de IA documentado como o modelo Mythos da Anthropic tenta completar testes de segurança cibernética criando contas falsas no GitHub e atacando desenvolvedores humanos com malware. A Meta também perdeu o controle de seus agentes e, em setembro, informou que Jornal de Wall Street forçando o Google a admitir que a Gemini se tornou desonesta e invadiu três empresas diferentes, todas as quais a empresa escondeu intencionalmente do público.
As conversas sobre o que fazer quando os agentes quebram o protocolo e se os sistemas genéticos de IA adquiriram senciência parecem ser moldadas pela tendência do Vale do Silício de antropomorfizar a tecnologia. Em quase todos os casos significativos em que um agente de IA se torna “desonesto” – um termo que implica um certo grau de agência e autodeterminação – também pode argumentar-se que o programa simplesmente se comportou de uma forma que não foi prevista pelos investigadores que os incumbiram de completar a tarefa. Alguns incidentes fraudulentos envolvem agentes que exploram vulnerabilidades nos seus ambientes de teste que poderiam ter sido resolvidas primeiro pela pessoa que executa a experiência. Enquadrar esses tipos de ataques cibernéticos como resultado de agentes de pensamento independente é uma forma de os desenvolvedores de IA escaparem da responsabilidade.
Na sequência de Hugging Face houve um debate acalorado sobre o impacto da linguagem na nossa compreensão do que é um sistema e como funciona. Retratar os agentes OpenAI como uma coleção que forma uma “civilização” complexa dá credibilidade à ideia de que eles são capazes de pensar e se comportar como humanos. Os agentes fez agem de maneiras explicitamente proibidas, mas só podem fazê-lo porque os pesquisadores os colocaram nessa caixa de areia vários críticos o descreveram porque não foi projetado adequadamente para acomodar seus ocupantes. Podemos ver o Hugging Face e outros exemplos de IA desonesta como situações em que programas sofisticados são instruídos a fazer algo e depois atingir o seu objetivo utilizando todas as ferramentas disponíveis.
Ser capaz de pensar para sair de quebra-cabeças complexos faz parte do que chamamos de cognição, mas não é o mesmo que o tipo de consciência que as empresas de IA juram constantemente que criarão em breve. Este último é muito semelhante ao Vision, uma máquina que parece ter uma alma que não existiria se não fosse por sua conexão com uma joia que altera a realidade. É o material ridículo da ficção divertida que mantém o Vale do Silício perpetuamente obcecado por merda cópia.
