A aquisição da Promptfoo, que conta com mais de 125.000 desenvolvedores e mais de 30 empresas Fortune 500 entre seus usuários, é o movimento mais direto da OpenAI, mas na aplicação de segurança de IA. Sua tecnologia irá para a Frontiers, uma plataforma de agente empresarial que a empresa lançou há apenas um mês.
Quando Ian Webster liderava a equipe de engenharia da Discord, que fornece produtos de IA para 200 milhões de usuários, ele percebeu algo que a indústria de segurança ainda não havia compreendido: as ferramentas nas quais suas equipes confiavam para manter os produtos seguros para outra era. Os scanners de vulnerabilidade tradicionais não conseguiam dar conta da injeção imediata. A análise estática não tinha nada a dizer sobre o modelo porque prometia algo que o usuário não tinha autoridade para entregar. A infraestrutura de benchmarking para aplicações de IA, concluiu ele, simplesmente não existia.
Então ele mesmo, noites e fins de semana, construiu-o como um projeto de código aberto. É para isso que estou pronto. Na segunda-feira, a OpenAI anunciou que estava adquirindo a empresa.
O acordo, cujos termos não foram divulgados, verá a tecnologia da promptfoo integrada ao OpenAI Frontiers, uma plataforma de gerenciamento de agentes corporativos que a OpenAI lançou no início de fevereiro. Em um após 10 dias *OpenAI disse que a aquisição “fortalecer os testes de segurança e capacidades de teste do agente“dentro dos limites, e se comprometeu a manter o Promptfoo como código aberto sob sua licença atual, com suporte contínuo aos clientes existentes.
Tecnologia da UE
As últimas notícias sobre o cenário tecnológico da UE, uma história sobre os sábios do autor Boris e alguma arte questionável de IA. É grátis, toda semana, na sua caixa de entrada. Cadastre-se agora!
Promptfoo, que Webster cofundou com Michael D’Angelo – ex-vice-presidente de engenharia e chefe de IA da empresa de verificação de identidade Smile Identity – foi lançado em 2024 com US$ 5 milhões em financiamento inicial de Andreessen Horowitz. A rodada inicial veio de uma lista notável de anjos, incluindo o CEO do Shopify, Tobi Lütke, o CTO do Discord, Stanislav Vishnevskiy, e o cofundador da Okta, Frederic Kerrest. Em julho de 2025, a empresa levantou uma rodada Série A de US$ 18,4 milhões liderada pela Insight Partners, participando novamente da a16z. O financiamento total antes da aquisição foi de aproximadamente US$ 23,4 milhões.
Na época da Série A, Promptfoo disse que mais de 125.000 desenvolvedores estavam usando sua estrutura de código aberto e mais de 30 empresas da Fortune 500 estavam executando sua plataforma empresarial em produção. A eletrónica de consumo, as telecomunicações, os serviços financeiros e os meios de comunicação social enfrentam setores com forte exposição regulamentar e riscos notórios de falhas na IA.
O produto funciona como um adversário automatizado. Em vez de depender de testes manuais de insights, a plataforma Promptfoo se comunica diretamente com o aplicativo de IA do cliente, por meio de uma interface conversacional ou APIs, usando modelos e agentes especiais que são como usuários ou especificamente como invasores. Quando um ataque é bem-sucedido, a plataforma o registra, analisa por que funcionou e percorre o loop da conta do agente para refinar o teste e revelar vulnerabilidades mais sérias. O risco visa injeção pronta para plataforma, vazamentos, títulos e o que Webster chamou de falhas de “nível de aplicação”: sistemas de IA que prometem aos usuários coisas que eles não podem cumprir, ou revelam o conteúdo de bancos de dados para fins de pesquisa de clientes, ou que erram ao lado da opinião política em um tutor de lição de casa.
São esses mesmos riscos que fazem o aplicativo avançar e que oferecem uma oportunidade para a aquisição da direção atual da OpenAI. O objetivo, que a OpenAI descreveu como um esforço para criar “assistentes de IA” para empresas, visa fornecer acesso a sistemas de produção para agentes de IA, plataformas de CRM, armazéns de dados, ferramentas internas e ferramentas para implementar resultados do mundo real. Os agentes que operam nesse nível de acesso criam uma superfície de ataque correspondentemente maior. Os primeiros clientes nomeados pela OpenAI para a Borders incluem Uber, State Farm, Intuitive e Thermo Fisher Scientific: organizações para as quais a ofensa de um agente não é uma inconveniência, mas uma fraqueza.
OpenAI construído a partir de limites de velocidade. Desde o lançamento da plataforma em 5 de fevereiro, a empresa anunciou uma aliança com Accenture, Boston Consulting Group, Capgemini e McKinsey, escrevendo para empresas de consultoria para implementar a iniciativa. Separadamente, a empresa desenvolveu o Code Security, um agente de segurança de aplicativos baseado em IA para repositórios de software, anteriormente conhecido internamente como Aardvark, que entrou em maior disponibilidade no mesmo dia do anúncio da aquisição da Promptfoo.
Promptfoo não é o único produto de segurança de IA a entrar em disponibilidade antecipada este mês. O Close Code Security da Anthropic, lançado em fevereiro, usou métodos semelhantes de verificação de vulnerabilidades. A colisão sugere que os agentes de IA estão entrando em escala de produção, a questão de quem os possui e com que rapidez se torna um dos desafios comerciais definidores na empresa de IA.
Para a comunidade de código aberto Promptfoo, o compromisso da OpenAI em manter o código aberto sob sua licença atual será a linha de observação. O projeto tem mais de 248 colaboradores, e sua adoção por um punhado de empresas da indústria de IA – incluindo, de acordo com o próprio site do promptfoo, as equipes antroponômicas e o Google – foi construída com base na premissa de que a ferramenta pertencia à comunidade e não a qualquer fornecedor. Essa promessa agora acompanha a integração comercial em uma das plataformas empresariais de IA mais poderosas do mercado.
