Campbell Brown passou sua carreira buscando informações precisas, primeiro como um conhecido jornalista de TV, depois primeiro no Facebook e primeiro por conta própria. Agora, à medida que a IA monitoriza a forma como os humanos consomem informação, vê a história ameaçar repetir-se. Desta vez ele não está esperando que alguém consiga consertar.
Sua empresa; Fórum de IA – que ele discutiu recentemente com Tim Fernholz do TechCrunch na noite do StrictlyVC em São Francisco – avalia o desempenho dos modelos fundamentais no que ele chama de “tópicos de alto risco” – geopolítica, saúde mental, economia, emprego – assuntos onde “não há respostas claras ou nenhuma resposta, onde é cego, cheio de nuances e complexo”.
A ideia é encontrar os maiores especialistas do mundo, projetar os testes e depois treinar juízes de IA para avaliar os modelos em escala. Para o trabalho do Fórum Geopolítico de IA, Brown liderou Niall Ferguson, Fareed Zakaria, o ex-secretário de Estado Tony Blinken, o ex-presidente da Câmara Kevin McCarthy e Anna Neuberger, que liderou a segurança cibernética na administração Obama. O objetivo é fazer com que os juízes de IA cheguem a cerca de 90% de concordância com os especialistas humanos, um limite que o Fórum afirma que a IA poderia atingir.
Brown descreve as origens do AI Forum, fundado há 17 meses em Nova York, como um momento específico. “Eu estava atingindo o objetivo quando o ChatGPT foi lançado oficialmente”, ela lembrou, “e me lembro de ter percebido logo depois que seria um funil através do qual todas as informações fluiriam. E isso não é muito bom”. Os resultados para seus filhos parecem quase existenciais. “Meus filhos vão ficar muito burros se não descobrirmos como consertar isso”, ele se lembra de ter pensado.
Isto foi especialmente frustrante porque a precisão não parece ser a prioridade de ninguém. O modelo básico da empresa, disse ele, é “focado principalmente em codificação e matemática”, enquanto notícias e informações são mais difíceis. Mas mais difícil, argumentou ela, não significa opcional.
Na verdade, quando o AI Forum começou a avaliar os principais modelos, as conclusões não foram propriamente animadoras. Ela citou que os gêmeos extraíram páginas do Partido Comunista Chinês “para histórias que não têm nada a ver com a China” e observou o preconceito político subjacente em quase todos os exemplos. Erros mais sutis abundam, disse ele, incluindo falta de contexto, falta de perspectiva e argumentos generalizados sem reconhecimento. “É um longo caminho a percorrer”, disse ele. “Mas também acho que existem algumas definições muito fáceis que melhorariam imensamente os resultados.”
Brown passou anos no Facebook observando o que acontece quando a plataforma é otimizada para lesões. “Muito do que tentamos falhou”, disse Fernholz. O programa integrado de verificação de objetos não existe mais. A leitura, mesmo disfarçada pelas redes sociais, está se otimizando para lutar na pior sociedade e que deixou muito menos conhecida.
Sua esperança é que a IA possa quebrar esse ciclo. “Agora ele pode ir de qualquer maneira”, disse ele; As empresas podem dar aos usuários o que eles desejam ou “dar às pessoas o que é verdade, o que é honesto e o que é verdade”. Ele reconheceu que a versão idealista disso – otimização da IA para a verdade – pode parecer simples. Mas ele acha que a empresa talvez seja um parceiro inadequado aqui. As empresas que usam IA para tomar decisões de crédito, empréstimo, seguro e contratação se preocupam com a responsabilidade e “querem que você otimize para acertar”.
Essa iniciativa também exige que o Forum AI tenha o seu próprio negócio, uma vez que a conversão de pagamentos de juros em rendimentos consistentes continua a ser um desafio, especialmente tendo em conta que grande parte da moeda atual ainda se contenta com verificações de auditoria e selos padronizados que Brown considera insuficientes.
Todo culto, diz ele, é uma piada. Quando a cidade de Nova Iorque aprovou o primeiro estudo sobre leis de contratação que exigia auditorias de IA, o controlador do estado descobriu que mais de metade das violações estavam ocultas. Uma avaliação verdadeira, diz ele, requer experiência no domínio para trabalhar não apenas em cenários familiares, mas também em casos extremos que “podem causar problemas nos quais você nem pensa”. Leva tempo e esforço. “Comandantes inteligentes não irão matá-la.”
Brown – cuja tripulação acabou por preparar a queda US$ 3 milhões liderado por Lerer Hippeau – está em uma posição única para descrever a desconexão entre a autoimagem e a realidade da indústria de IA para a maioria dos usuários. “Você ouve dos chefes das grandes empresas de tecnologia: ‘Essa tecnologia vai mudar o mundo’, ‘vai fazer você trabalhar’, disse ele, ‘vai curar o câncer’.
A confiança na IA situa-se em níveis extraordinariamente baixos e o cepticismo parece ser justificado em muitos casos. “É como se houvesse uma conversa no Vale do Silício sobre uma coisa e uma conversa completamente diferente entre os usuários”.
Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
