Recentemente tive a oportunidade de conversar com Francisco de Souza, COO do Google Cloud, em um evento em Los Angeles. Em meio ao barulho ao nosso redor, de Souza, que fala com a calma de um professor universitário, ofereceu alguns conselhos úteis para empresas de segurança de IA que navegam no momento que todos estamos passando, observando que “é hora de fazer a transição, e então acho que iremos para este lugar melhor”.
Ele não estava falando sobre o Google na época, mas está claro que até o Google ainda está adiando as coisas.
A mensagem central de De Souza foi aquela que os profissionais de segurança tentaram internalizar durante anos, agora que a IA se tornou urgente: a segurança não pode ser deixada para trás. “Quando as empresas embarcam nesta jornada de IA, elas precisam acessar a plataforma”, disse ele. “A segurança não é algo que você possa fechar mais tarde, e não é algo que você possa fazer sozinho como desenvolvedor. Ele alertou especificamente sobre a “IA sombra” – funcionários para acessar dispositivos de consumo sem supervisão regulatória – e sugeriu que as empresas precisam exigir segurança, governança e auditabilidade de suas plataformas desde o início. “Não existe um plano de IA sem uma estratégia e uma determinada estratégia de segurança. As mãos precisam ir.”
É importante notar: o Google Cloud não é a única solução. Quando percebeu que seu plano parecia um mapa do Google, ele recuou. O Google, diz ele, está começando com muitas abordagens de nuvem e defendeu que as empresas que pensam que estão trabalhando em uma única nuvem quase certamente não estão. “Mesmo que coletem uma nuvem, eles dependem de aplicativos SaaS, há empresas que podem usar nuvens diferentes”, disse ele. “É importante que as empresas tenham uma postura de segurança consistente em toda a nuvem e em todos os modelos.”
Também defende que o cenário de ameaças mudou tão fundamentalmente que os antigos modelos defensivos são demasiado lentos. Ele observou que o tempo médio entre a violação inicial e a passagem para o próximo estágio do ataque caiu de oito horas para 22 segundos, e que a superfície de ataque se expandiu muito além do escopo tradicional da rede. “Além do seu costume, agora você tem modelos. Pipelines de dados para modelos de treinamento. Você tem gerentes, você sugere. Tudo isso precisa ser protegido.”
Uma ameaça à qual Souza sinaliza que não presta atenção suficiente: os atores que se movem pelos sistemas internos de uma empresa podem superar repositórios de dados esquecidos nos quais ninguém pensava há anos. “Muitas organizações têm servidores SharePoint antigos compartilhados (e controles de acesso) que não foram realmente atualizados, mas isso não importa porque ninguém sabia realmente onde eles estavam. Mas os agentes corporativos em trânsito encontrarão esses objetos de dados e exporão as informações neles contidas.”
A resposta, em sua opinião, vai ao encontro da rotação do motor com a rotação do motor. “Estamos vendo agora o surgimento de uma defesa nativa de IA totalmente automatizada, onde grupos de agentes executam sua própria defesa”, disse ele. “Em vez de ter uma defesa humana ou mesmo um humano na prateleira, agora as pessoas que olham para ela podem ter uma defesa totalmente agente.” Isto, acrescentou, tornou-se a causa da liderança, não apenas da tecnologia. “Esta é uma questão do conselho e da equipe executiva. Não é apenas uma questão da equipe de segurança.”
Mas à medida que a IA assume maior parte do trabalho de defesa, há escassez de pessoas qualificadas na prevenção – e as vulnerabilidades que a própria IA introduz estão a multiplicar-se mais rapidamente do que as equipas de segurança conseguem resolvê-las. “Vamos precisar de pessoas para lidar com o pocalipse dos bugs”, disse Lea Kissner, diretora de segurança da informação do LinkedIn. disse o New York Times esta semana, acrescentando que não espera que a indústria de segurança de IA seja sustentável de forma alguma a longo prazo, pelo menos durante vários anos.
O que nos traz de volta à plataforma. O Register divulgou uma série de relatórios nas últimas semanas documentando uma onda de desenvolvedores do Google Cloud que foram atingidos por contas de cinco dígitos por chamadas de API estrangeiras para modelos Gemini – a maioria dos quais serviços eles nunca usaram ou para os quais se prepararam. Os casos seguiram um padrão familiar: chaves de API originalmente para o Google Maps, definidas publicamente pelas próprias instruções do Google, tornaram-se discretamente acessíveis ao Gemini depois que o Google expandiu seu escopo sem divulgar claramente a mudança.
Rod Danan, CEO da plataforma de preparação para entrevistas Prentus, disse que seu livro foi um sucesso $ 10.138 em cerca de 30 minutos Depois que os invasores obtiveram lucro com sua chave de API. Isuru Fonseka, um desenvolvedor baseado em Sydney cuja conta era igualmente subdesenvolvida, acordou com cobranças de cerca de AUD$ 17.000, apesar de acreditar que tinha gasto US$ 250. O que ele não sabia era que os sistemas de cobrança automatizados do Google, baseados no histórico da conta, aumentaram seu teto efetivo para US$ 100 mil sem seu consentimento expresso.
O Google devolverá ambos depois que o Registro publicar seu relatório inicial. Ainda assim, o Google disse ao The Register que não tem planos de alterar sua política de atualização automática, dizendo que prioriza a prevenção de interrupções de serviço em vez de impor as preferências do usuário.
Enquanto isso, há uma questão separada sobre o que acontece quando o desenvolvedor tenta encerrar as coisas. Cadastre-se ele anunciou esta semana em uma pesquisa da empresa de segurança Aikido descobriu que mesmo os desenvolvedores que pegam a chave do prédio e a excluem imediatamente não podem estar seguros. De acordo com as descobertas do Aikido, os invasores parecem conseguir continuar usando essa chave por até 23 minutos, à medida que a revogação do Google se propaga gradualmente por sua infraestrutura. O pesquisador de Aikido Joseph Leon disse ao Register que, nessa janela, as taxas de sucesso não podem ser previstas – em poucos minutos, mais de 90% das solicitações ainda são confirmadas como autênticas – e os invasores podem usar o tempo para extrair arquivos e dados confidenciais de conversas do Gemini.
Leon também observou que os formatos de documentos proprietários mais recentes do Google não parecem ter o mesmo problema: a API de documentos do serviço retorna em cerca de cinco segundos, e o formato mais recente com prefixo AQ do Gemini leva cerca de um minuto para ser digitado. “Execute ambos na escala do Google”, escreveu ele em um artigo relacionado ao Aikidon. “Ambos também sugerem chaves de API do Google tecnicamente solucionáveis.” Resumindo, segundo Leon, a janela de 23 minutos não é uma necessidade de engenharia, mas uma questão de prioridades da empresa.
É preciso considerar que ao ler o alerta de Souza, ele é completo e deve ser levado muito a sério. Não se engane, mas atualmente existe uma lacuna entre as plataformas que comandam e a rapidez com que se adaptam, e isso também é bom saber.
Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
