Como muitos, quando a OpenAI lançou pela primeira vez seu modelo de IA de geração de texto para vídeo Sora ao público em 2024, a diretora Valerie Veatch ficou intrigada. Embora ela não entendesse completamente a tecnologia, ela estava curiosa sobre o que ela poderia fazer e viu outros artistas construindo comunidades online para compartilhar suas novas criações de IA. A esperança de se conectar com as pessoas atraiu Veatch para o campo da inteligência artificial, mas quando chegou lá, ficou chocada ao descobrir que a tecnologia frequentemente produzia imagens racistas e sexistas.
O que é ainda mais perturbador para Weach é que seus colegas novos entusiastas da IA não parecem se importar com o fato de as máquinas em torno das quais eles se uniram vomitarem lixo odioso e preconceituoso sem aviso explícito. Esta estranha situação fez com que a Veatch abandonasse seus primeiros experimentos de inteligência artificial. Mas também a inspirou fantasma na máquinaum novo documentário sobre as tecnologias e escolas de pensamento que lançaram as bases para a existência da geração AI.
Em vez de se concentrar nos potenciais (embora altamente improváveis) benefícios sociais que uma nova geração de aceleradores de IA juram estar ao virar da esquina, fantasma na máquina Explore a história desta tecnologia e explique por que ela funciona dessa maneira. Quando conversei recentemente com Veatch sobre o filme, ela me disse que queria documentar a gênese da geração AI para dar às pessoas uma compreensão clara do intenso ciclo de hype da indústria que estamos vivenciando atualmente. Primeiro, porém, ela teve que dissipar o ofuscamento deliberado de todo o conceito pelas empresas de IA.
“Para usar o termo ‘inteligência artificial’, precisamos saber o que o termo realmente significa”, disse-me Veitch durante uma videochamada. “A verdade é que não significa nada; é um termo de marketing e sempre foi. É uma frase completamente enganosa e boba que tem seu próprio significado cultural e acho que é crucial sermos realmente claros sobre as palavras que usamos e o que essas palavras significam.”
como fantasma na máquina Tem sido repetidamente enfatizado que a “inteligência artificial” foi originalmente cunhada em 1956 pelo cientista da computação John McCarthy quando ele tentava obter mais financiamento para seu projeto. Mas o documentário enquadra a cunhagem do termo como apenas um dos muitos pontos importantes numa linha temporal que na verdade começa com o nascimento da eugenia na Inglaterra vitoriana. Além de ser primo de Charles Darwin, Francis Galton foi o fundador da eugenia – a crença racista e desacreditada de que a humanidade poderia ser melhorada através da eliminação sistemática de raças “inferiores” (leia-se: não-brancas).
Embora Galton tenha feito Alguns Apesar das suas contribuições úteis para a academia, durante a nossa entrevista, Veatch explicou que é importante não subestimar o facto de que as suas crenças profundamente arraigadas na supremacia branca influenciaram as ciências sociais da época. Galton e seu colega eugenista/discípulo Carl Pearson não estiveram diretamente envolvidos no desenvolvimento das primeiras máquinas de calcular. Mas o trabalho fundamental de Galton em modelação multidimensional – uma técnica que utilizou para medir a atratividade das mulheres africanas e europeias – moldou o pensamento de Pearson à medida que desenvolvia ferramentas estatísticas como a regressão logística, um dos blocos de construção fundamentais da aprendizagem automática moderna.
“Vou abraçar Sam Altman diante das câmeras? Este é um filme real sobre essa tecnologia? Isso é propaganda.”
Galton Pearson Ajude a normalizar a ideia Pessoas de raças diferentes diferem fundamentalmente em aspectos quantificáveis. Este pensamento racista levou Galton e os seus colegas a acreditar que a inteligência humana era mensurável e que o cérebro humano funcionava como uma máquina. Veatch disse que esse salto desempenhou um papel importante na venda ao público da maravilhosa ideia de inteligência artificial.
“Uma das coisas que realmente me impressionou quando estava inicialmente a investigar tudo isto é que quando olhamos para a questão da superinteligência como documentarista ou jornalista, muito rapidamente estamos a bater com a testa no batente baixo da ciência racial à medida que esta se integra na tecnologia”, disse Veitch, explicando que estes conceitos estão “impregnados” no pensamento eugénico.
Em vez de tentar refutar a ideia de que as novas gerações de modelos de IA produzirão ideologias odiosas porque foram treinadas para o fazer (um conceito muitas vezes referido como “GIGO” – entra lixo, sai lixo), fantasma na máquina Use a análise histórica para explicar por que as empresas que constroem esta tecnologia parecem tão desinteressadas em resolver os problemas atuais. Esse contexto histórico ajudou Veatch a entender algumas de suas próprias experiências preocupantes com a geração AI, quando ela estava brincando com uma versão inicial de Sora no Artist Slack. Veitch se lembra do grupo como um lugar amigável e acolhedor até que outro membro – uma mulher negra – começou a expressar preocupação com a forma como a modelo a caiava toda vez que era solicitada a gerar imagens baseadas em suas fotos.
“Ele manteve suas tranças, manteve sua moda, mas ela estava entrando em uma galeria de arte, que o programa entendia como um ‘espaço em branco’”, explica Veatch. “Minha reação foi ‘que diabos’ e tentei explicar ao grupo que na verdade era um problema com o software em si.” Ninguém mais no grupo opinou sobre sua postagem. “Este é o Slack, e normalmente há dezenas de reações de emojis de coalas gritando em cada postagem. Mas desta vez não houve nada.”
Imagem: Lente Independente
Veatch entrou em contato proativamente diretamente com a OpenAI, alertando a empresa sobre “quão racista, sexista e misógina a produção[ela]estava vendo – que depois de duas rodadas de geração de uma cena, as mulheres começariam a desenvolver seios extras e a mexer”. Veatch acreditava que a OpenAI veria isso como um bug crítico que vale a pena consertar antes de encorajar mais pessoas a incorporar Sora em suas vidas; em vez disso, a empresa ignorou suas preocupações.
“O feedback que recebi foi basicamente: ‘É muito assustador fazer essa pergunta; não há nada que possamos fazer para mudar isso'”, lembrou Veatch.
Esta situação despertou a paixão de Veitch por compreender por que tantas formas diferentes de inteligência generativa se comportavam consistentemente de maneiras tão feias e problemáticas. No início, ela realmente não achou que uma ligação da Zoom com o autor de um white paper sobre a tecnologia pudesse ser transformada em um documentário atraente, mas isso mudou quando ela começou a ver uma linha clara entre o trabalho estatístico eugênico de Galton e o equipamento moderno de inteligência artificial.
o som aparece em fantasma na máquina Uma equipa de investigadores, historiadores e teóricos críticos da IA apresenta um argumento convincente de que essencialmente todos os aspectos do campo da IA são profundamente influenciados pelos seus laços históricos com campos científicos que apoiam visões de mundo discriminatórias. Quando perguntei a Veatch se ela estaria interessada em falar diretamente com os líderes da empresa fantasma na máquina “Vá fazer o trabalho”, ela ri. Para obter esse acesso, diz ela, é necessário que ela passe por exercícios ideológicos e faça concessões que tornariam seu filme cúmplice dos danos da era da inteligência artificial.
“Existe a ideia de que essas pessoas não vão confiar em ninguém”, disse Veatch. “Sim, sem merda, certamente espero que eles não acreditem em mim. Não os quero no filme, e eles já disseram o suficiente para a imprensa. Vou abraçar Sam Altman diante das câmeras? Este é um filme real sobre essa tecnologia? Isso é propaganda.”
fantasma na máquina estará disponível para Transmissão via Kinema de 26 a 28 de março e depois ao ar na PBS neste outono.
