Apenas OpenAI relatado Modo de bloqueio. Lembra do bloqueio? É assim, mas com um chatbot de IA.
Na verdade, existe uma maneira de se proteger contra ataques de injeção imediata – um novo tipo insidioso de atividade de spammer centrada em IA que às vezes é descrita como hacking completo. Quando instruções maliciosas são incluídas na extração de conteúdo disponibilizado ou encontrado por um agente de IA, os invasores têm a capacidade não apenas de roubar dados, mas também de usá-los para tentar possuí-los. para assumir a vida do usuário.
Portanto, a experiência do Lockdown é semelhante ao nome. O mailer não usa automaticamente o risco, mas sim o alarme de algum tipo de sala em que você entra com ChatGPT se usar algo que é tão sensível que um ataque de injeção imediata é o mais prejudicial.
Essencialmente, às vezes o LLM quebra a contenção da janela do chatbot no seu navegador ou smartphone e pretende pesquisar informações na Internet, ou renderizar uma imagem, ou – talvez sem dizer que tenta comprar passagens aéreas para você, o que o expõe ao risco de um ataque de injeção imediata, então o Modo Lockdown desativa essas linhas.
O modo Lockdown significa que o ChatGPT não pode;
- navegar na web
- imagens nas respostas (mas pode gerar imagens e imagens carregadas)
- faça “Pesquisa do Abismo”
- o papel do agente
- rede com o gerador de código Canvas
- baixar arquivos
Para OpenAI:
“É modo de bloqueio” não destinado a todos Destina-se a indivíduos e organizações que lidam com dados confidenciais e desejam proteção mais rígida contra riscos de exfiltração de dados relacionados à injeção imediata.
No início, os chatbots de IA e o ChatGPT pretendiam criar uma forma de prevenir o roubo de dados. É razoável, acredito. No entanto, dizem eles, não há limite para a imagem de advogados publicando informações sensíveis de clientes no ChatGPT, ou de profissionais de saúde carregando dados de seus pacientes em seu LLM favorito. Há também um “modo de bloqueio” mais seguro para manter os dados confidenciais protegidos contra injeções: os dados confidenciais não podem ser acessados em qualquer lugar pelo chatbot.
