A primeira sócia da Califórnia, Jennifer Siebel Newsom, reuniu recentemente o que pode ser um dos cenários de pesadelo mais suados para os tecnólogos do Vale do Silício – um grupo das mulheres mais inteligentes e poderosas do Golden State discutindo como regular a inteligência artificial.
A regulamentação é a última coisa que esta indústria dominada pela Califórnia deseja, e estão a gastar muito dinheiro tanto nos capitólios estaduais como federais para evitá-la – incluindo o financiamento das políticas do Presidente Trump. novo salão de dança. Regulamentações feitas por um grupo de mulheres, muitas mães, e não tendo a vantagem dos nossos filhos em termos de preocupação?
Vou lhe contar o quão popular é entre os Elon Musks, Peter Thiels e Mark Zuckerbergs do mundo.
Mas, como disse Siebel Newsom: “Se uma plataforma chega a uma criança, então a plataforma tem a responsabilidade de proteger essa criança. Ponto final. A segurança de nossas crianças nunca será uma prioridade secundária”.
Acordado.
O impulso de Siebel Newsom para que a Califórnia faça mais para regular a IA ocorre num momento em que Trump ameaça acabar com a supervisão estatal da tecnologia – e monta um esforço nacional que abrirá os cofres da América aos senhores da IA durante as próximas décadas.
Hoje, os EUA enfrentam o seu próprio cenário de pesadelo: a tecnologia mais poderosa e revolucionária que alguma vez vimos nas nossas vidas, desenvolvida e implementada sem quaisquer regras ou restrições, excepto aquelas escolhidas por pessoas que procuram lucrar pessoalmente com os resultados.
Simplificando, o plano actual é que estes barões da tecnologia dobrem o mundo ao seu gosto para ganharem dinheiro para si próprios, e nós, como contribuintes, pagar-lhes-emos para o fazer.
“Quando as decisões são impulsionadas principalmente pelo poder e pelo lucro, e não pelo cuidado e pela responsabilidade, perdemo-nos verdadeiramente e, dado o actual alinhamento entre os gigantes da tecnologia e o governo federal, acredito que nos perdemos”, disse Siebel Newsom.
Em suma, Trump tentou recentemente transformar uma proibição de 10 anos sobre a capacidade dos estados de supervisionar a indústria num projecto de lei apelidado de “Big Beautiful Beautiful Bill”, mas a proibição foi anulada por um grupo bipartidário no Senado – o que é um indicador precoce de quão inflamatória esta questão se tornou.
Diante do bloqueio inesperado, Trump ameaçou assinar o acordo misteriosa ordem executiva paralisando a capacidade dos países de regulamentar a IA e os esforços para reter o financiamento dos países que o tentam.
Ao mesmo tempo, os membros republicanos mais tímidos e covardes do Congresso sugeriram acrescentar uma proibição de 10 anos ao próximo projeto de lei de política de defesa, que é quase certo que será aprovado. É claro que o Congresso também se recusou a tomar medidas sobre regulamentações federais importantes, enquanto CEOs de tecnologia, incluindo Musk, o inimigo de Trump, Tim Cook, da Apple, Zuckerberg, da Meta, e muitos outros, falaram sobre isso em eventos chamativos na Casa Branca.
Talvez seja por isso que esta semana Trump anunciou “Missão Gênesis”, uma ordem executiva que aparentemente exigiria um esforço de pesquisa governamental inimaginavelmente vasto em múltiplas disciplinas e o colocaria em algum tipo de modelo de IA que “revolucionou a forma como a pesquisa científica era conduzida.”
Embora eu tenha certeza de que não há nada de errado com esse cenário, essa não é a parte imediatamente preocupante. A saber: O projecto será supervisionado pelo conselheiro de política científica e tecnológica de Trump, Michael Kratsios, que não tem licenciatura em ciências ou engenharia, mas já foi executivo de topo de Thiel e antigo chefe de outra empresa de IA que trabalha em projectos relacionados com a guerra com o Pentágono.
Kratsios é considerado um dos principais motivos pelos quais Trump admirou tanto os engenheiros em seu segundo mandato. O Genesis resultará quase certamente em grandes contratos governamentais para estes “parceiros” do sector privado, o que alimentará um boom (ou bolha) de IA financiado pelos contribuintes.
A mensagem da Siebel Newsom face a tudo isto é que não somos impotentes – e a Califórnia, como sede de muitas destas empresas e da quarta maior economia do mundo, deveria ter uma palavra a dizer sobre a forma como esta tecnologia avança e garantir que o faz de uma forma que beneficie e proteja todos nós.
“A Califórnia está numa posição única para liderar esforços para demonstrar inovação e responsabilidade e como as duas podem andar de mãos dadas”, disse ele. “Sempre acreditei que barreiras de proteção mais fortes são realmente boas para os negócios no longo prazo. Uma tecnologia mais segura significa melhores resultados para os consumidores, bem como maior confiança e lealdade do consumidor.”
Mas a pressão para ceder à influência destas empresas é intensa, como descobriu o marido de Siebel Newsom.
O governador Gavin Newsom passou os últimos anos tentando implementar leis estaduais que oferecessem algum tipo de supervisão e, ao mesmo tempo, possibilitassem a inovação que mantém a Califórnia e os Estados Unidos competitivos no campo global. A indústria tecnológica gastou milhões em lobby, batalhas jurídicas e campanhas de pressão para minar até os esforços mais inócuos, ameaçando mesmo deixar o Estado se as regulamentações forem promulgadas.
No ano passado, a indústria não conseguiu impedir o projeto de lei 53 do Senado, uma lei histórica assinada por Newsom. Esta é uma medida básica de transparência em modelos de IA “fronteiriços” que exige que as empresas tenham protocolos de segurança e proteção em vigor e reportem riscos “catastróficos” conhecidos, como quando estes modelos mostram tendências para comportamentos que podem matar mais de 50 pessoas – quer acreditem ou não.
Mas a indústria conseguiu impedir outros esforços. Newsom vetou o projeto de lei 7 do Senado, que exigiria que os empregadores notificassem os trabalhadores ao usar IA em contratações e promoções; e Assembly Bill 1064, que proibiria os operadores de chatbots de disponibilizar esses sistemas de IA para menores se não pudessem provar que não farão coisas como encorajar as crianças a se machucarem, o que novamente esses chatbots fizeram.
No entanto, a Califórnia (juntamente com Nova Iorque e vários outros estados) avançou e, ao discursar num evento da Siebel Newsom, o governador disse na última sessão: “estamos a colocar algum esforço nisto e estamos a fazer enormes progressos”.
Ele promete mais.
“Temos agência. Podemos moldar o futuro”, disse ele. “Temos uma responsabilidade única no que diz respeito a estas ferramentas tecnológicas, porque elas são o centro do universo.”
Se Newsom avançar, será em grande parte devido a Siebel Newsom e a mulheres como ela, que continuam a exercer resistência.
Na verdade, foi outra mulher poderosa, a primeira-dama Melania Trump, que forçou o governo federal a fazer pouco este ano enquanto lutava pelos direitos humanos. “Excluir ação”exigindo que as empresas de tecnologia removam imediatamente imagens explícitas não consensuais. Duvido seriamente que o marido dela tivesse assinado o projeto de lei sem que ela insistisse.
Portanto, se tivermos sorte, os esforços de mulheres como Siebel Newsom poderão apenas proporcionar a sanidade necessária para refrear as fantasias de dominação mundial dos broligarcas.
Porque os tecnólogos ainda não são todo-poderosos, apesar dos seus melhores esforços, e certamente não estão imunes ao poder das mães.
