O Signal impede que Gemini e Siri AI leiam sua tela

O Signal está limitando a capacidade de fazer capturas de tela em dispositivos Android e iOS para evitar que agentes de IA leiam as mensagens e outros dados de um usuário. O presidente da Signal diz que os recursos de IA do agente integrados ao sistema operacional que analisam informações na tela para aprender mais sobre os usuários “estão minando a capacidade da Signal de garantir a privacidade de forma independente”. Meredith Whitaker disse em uma postagem no blogao mesmo tempo em que insta os provedores de sistemas operacionais a facilitar aos desenvolvedores de aplicativos o controle dos dados que os agentes podem acessar.

“Queremos ser muito claros: Signal e outros desenvolvedores de aplicativos carecem de ferramentas poderosas para evitar que agentes de IA violem a privacidade no nível do aplicativo, e isso é um problema sério”, disse Whittaker. “Mesmo que pudéssemos detectar e bloquear o acesso aos dados de IA, Google, Apple, Microsoft e outros não forneceram aos desenvolvedores uma maneira de restringir facilmente esse acesso a dados de IA sem prejudicar gravemente a experiência principal do usuário. É por isso que atualmente não podemos implementar essas proteções no macOS.”

O Signal está abordando questões de privacidade ao bloquear a capacidade dos aplicativos de fazer capturas de tela no iOS 27 e no Android, o que deve impedir que Siri, Gemini e outros assistentes de IA do Android leiam a tela. Os usuários podem restaurar a funcionalidade de captura de tela nas configurações do aplicativo Signal, mas Whittaker alertou que isso “pode expor o conteúdo do Signal (e de seus contatos) a esses agentes de IA e prejudicar nossas garantias de privacidade”. Whittaker reconheceu que a solução de bloqueio de captura de tela do Signal está “incompleta” porque não aborda formas alternativas para os agentes de IA acessarem os dados do aplicativo, como a recuperação de dados por meio do sistema de arquivos do dispositivo.

A Signal adotou uma abordagem semelhante no ano passado para evitar que o polêmico recurso Recall da Microsoft capturasse bate-papos seguros. O serviço de mensagens criptografadas disse que está trabalhando para desenvolver soluções melhores em meio à falta de informações disponíveis sobre como os agentes de IA realmente acessam os dados de aplicativos, e agora está pedindo à Apple, Google e Microsoft que forneçam aos desenvolvedores de aplicativos “ferramentas técnicas simples e documentação precisa”. Signal também disse que mais ferramentas são necessárias para evitar que proxies de terceiros, como o Muse da Meta, usem configurações de acessibilidade profundas no aplicativo (como “chaves mestras”) para acessar os dados do aplicativo.

“Todos nós precisamos reconhecer que sem essas soluções de bom senso, a atual integração de agentes de IA em sistemas operacionais representa uma ameaça à privacidade na camada de aplicação e à capacidade de desenvolvedores independentes como a Signal de proteger dados confidenciais”, disse Whittaker. “Signal é o canário na mina de carvão, mas impacta todo o ecossistema e deve servir de inspiração para quem se preocupa com esses direitos fundamentais.”