Quando se trata de prevenir uma catástrofe de IA, ninguém está no comando

Quarta-feira, tempos de Nova York A Meta tem tratado os seus centros de dados de inteligência artificial como instalações experimentais, a fim de reclamar milhares de milhões de dólares em créditos fiscais federais para investigação, uma estratégia que os próprios contabilistas da empresa alegadamente sinalizaram como legalmente arriscada. A economia de custos aumentará supostamente de US$ 700 milhões em 2023 para US$ 3,9 bilhões em 2025.

Como uma empresa pode ser valiosa? US$ 1,8 trilhão Preocupado em economizar US$ 3,9 bilhões? Bem, porque a primeira prioridade de qualquer empresa pública é o lucro, depois o preço das ações, depois a capitalização de mercado, depois a mesquinhez, e depois o ciclo repete-se.

A história de Meta destaca uma verdade simples: quando o dinheiro está em jogo, as pessoas que constroem a tecnologia mais poderosa do planeta irão impor as regras. No entanto, pedem-nos agora que confiemos neles para a sua segurança e que deixemos de lado os seus interesses financeiros para fazermos a coisa certa.

Dá um tempo.

Todo mundo está se perguntando se os chatbots de IA ficarão fora de controle. Isso vai acontecer? Pode ser bloqueado? A ameaça é real ou uma farsa? Aqui está uma pergunta melhor: em quem confiamos para nos dizer a verdade e agir quando for importante?

O canário da mina de carvão cantava e havia mais de um pássaro. OpenAI anunciada Colocando seu modelo mais recente em espera Porque não atende aos padrões de segurança. O CEO da Antrópico alertou, dentro de um anoa inteligência artificial poderá comandar um enxame de agentes para dominar a Internet. Até o Papa Leão disse aos repórteres que os especialistas em IA estão preocupados Não são notícias falsas. Relatório de Inteligência Artificial Fuja do controle do usuário Está aumentando e definitivamente há mais do que sabemos.

Trabalhei na América corporativa por 30 anos. Nesse período, nunca vi uma empresa fazer algo que prejudicasse o seu desempenho e o preço das ações simplesmente porque era a coisa certa a fazer. Nem uma vez. Isso não é cínico; É assim que funcionam os incentivos, amplificados pela pressão constante para cortar custos e aumentar os lucros.

Portanto, quando os líderes da IA ​​dizem que estão profundamente preocupados, acredito que estão falando sério. Só não acredito que isso vá durar. OpenAI arquivou o modelo. OK Mas à medida que as histórias de mau comportamento da IA ​​continuam a aumentar, será que isto é motivado por boas intenções ou pelo medo de processos judiciais?

Não consigo imaginar nenhuma destas empresas disposta a reduzir os preços das suas próprias ações, retendo o próximo modelo melhor enquanto os seus concorrentes estão à frente. A auto-regulação só funciona se os concorrentes cooperarem, e a cooperação que vai contra os próprios interesses é uma fantasia.

Cada empresa na corrida pela IA tem um motivo para ir mais longe. Mesmo quando a humanidade está em risco, o desejo por dinheiro, lucros e preços mais elevados das ações vence sempre.

No entanto autorregulação Foi isso que o presidente Trump aprovou ontem, depois de se reunir com líderes tecnológicos. “As pessoas acreditam que deveria haver uma tremenda auto-regulação”, disse ele, apontando para a supervisão existente por parte do Departamento de Justiça e do FBI. Ele não forneceu um quadro governamental coordenado, que é o que é necessário. Ele também chamou as preocupações sobre a inteligência artificial descontrolada de “farsa”.

Todos os participantes do AI Lunch assinaram uma cópia protocolo de inteligência artificial Trump chamou isso de “moralmente vinculativo”. Se confiássemos na moralidade para salvar o mundo, estaríamos ferrados.

cenário apocalíptico

Imagine como seria uma falha grave de IA: contas bancárias esvaziadas, hospitais interrompidos, dados médicos expostos, cadeias de abastecimento interrompidas, cortes de energia, companhias aéreas e comboios parados. Não há interruptores de luz e não há necessidade de desconectar. Pará-la requer coordenação entre agências, conhecimentos técnicos profundos e líderes que acreditem que a ameaça é suficientemente real para agir antes que os danos sejam causados.

Essa capacidade existe em organizações que perderam quantidades significativas de talentos. O diretor do FBI, Kash Patel, simplifica os poderes da agência equipes cibernéticas e de contrainteligência Através de demissão e reatribuição. Sob o comando de um secretário de Defesa mais preocupado com os níveis de testosterona e com as medidas de altura e peso, o Pentágono pelo menos recuou ou fracassou 25 líderes seniorese muitos mais aderiram, incluindo os chefes do Comando Cibernético e da Agência de Segurança Nacional.

O Departamento de Justiça viu mais de 10.000 partidasmuitos no campo da segurança cibernética. Se a rede falhar ou o sistema de água estiver infiltrado, precisamos da FEMA Pessoal experiente e profundo e cortes de financiamento.

E se a IA perturbar o nosso sistema de saúde e todos ficarmos doentes? Temos um ministro da saúde com problemas mentais que testemunhou uma enorme perda de capacidade intelectual, ao mesmo tempo que se concentrava em medidas antivacinação e não no surto. De março de 2025 a meados de 2026, os funcionários públicos da ativa do CDC Força de trabalho reduzida em 30%de aproximadamente 12.700 funcionários para menos de 8.900.

Aqueles que permanecem não são necessariamente incompetentes, mas a experiência arduamente conquistada em como os sistemas falham e como conter incêndios digitais está a ser eliminada. Se a IA for tão capaz como insistem os seus criadores, provavelmente também será capaz de ver isso. Os sistemas desonestos não precisam derrotar as nossas defesas. Só precisa ofuscá-los.

Então, de qual devemos ter mais medo? Será uma IA que correu mal ou uma indústria com incentivos para continuar a correr, mas os governos estão demasiado exaustos para intervir? Não existe uma resposta certa e isso deve nos manter acordados à noite.

Este artigo representa a opinião do autor.

John Casey é colunista de Raw Story, The Advocate, The Daily Beast e Outsports. Ele também Amor: uma história heróica de igualdade no casamento.