OpenAI relatado um novo recurso que fornece proteção adicional contra ataques de injeção imediata, onde instruções maliciosas ficam ocultas em páginas da web e outras fontes de conteúdo.
Entre outras coisas, o modo de bloqueio desativará o feed da web ao vivo (portanto, apenas o acesso ao conteúdo em cache), a recuperação e exibição de imagens da web (você ainda pode gerar imagens), a pesquisa profunda e o modo de agente.
A empresa afirma que mesmo com o Modo Lockdown ativado, o ChatGPT ainda pode ser vulnerável a injeções imediatas – que, por exemplo, “aparecem no conteúdo em cache ou em uma pasta de arquivo e ainda podem afetar o comportamento ou a precisão da resposta”.
Mas o objetivo é reduzir a probabilidade de informações confidenciais serem compartilhadas no processo.
“É modo de bloqueio” não destinado a todos”, diz OpenAI. “É para pessoas e organizações que lidam com dados confidenciais e desejam proteção mais rígida contra riscos de exfiltração de dados relacionados à injeção imediata.”
A empresa afirma que está implementando o Modo Lockdown para proteger automaticamente as contas ChatGPT Business, bem como contas pessoais qualificadas.
