A startup de tecnologia de vigilância Flock anunciou na quinta-feira uma série de novas políticas e ferramentas que, segundo ela, ajudarão a prevenir o abuso de seus sistemas automatizados de leitura de câmeras de placas de veículos e a responsabilizar seus clientes responsáveis pela aplicação da lei.
Flock agora recomenda que os departamentos de polícia retenham os dados por sete dias, em vez dos 30 dias anteriores. Junto com essa mudança, a empresa introduziu o que chama de “Modo Evidência”, que pode ser ativado em “casos excepcionais”, quando os clientes precisam reter dados por um período maior de tempo e exigem um número de caso específico. Os clientes agora podem definir limites para os dados que compartilham com outros clientes com base no tipo de crime que estão investigando.
A empresa também destacou a ferramenta “Audit Assistance” como uma das principais mudanças. Flock apresentou a ferramenta em abril. Desde então, Flock diz que “mais de um terço” dos seus clientes já o ativaram, e a startup agora exige que todos os clientes o liguem até o final do ano.
De acordo com uma postagem de blog publicada na quinta-feira, Flock disse que o Audit Assist “detecta atividades incomuns e as sinaliza para revisão do administrador”. Se isso acontecer, a ferramenta poderá bloquear automaticamente os usuários sinalizados até que um administrador intervenha. Segundo Flock, a ferramenta já ajudou os clientes a detectar e impedir abusos.
Muitos executivos elogiaram as capacidades do apoio à auditoria. Mas apesar da sua importância, Flock não explica detalhadamente como funciona realmente a assistência à auditoria.
Alguns comentários oficiais fornecem alguma compreensão do que a assistência de auditoria pode fazer; Fica confuso ao tentar determinar como isso acontece.
Por exemplo, Ashley Haber, chefe de confiança e conformidade da Flock, disse em um vídeo que a auditoria ajuda os clientes a entender como seus usuários estão operando um sistema que “pode parecer um histórico de pesquisa estranho de um usuário específico”. Em outro vídeo, Paige Todd, cofundadora da Flock, disse:
E o major Patrick Krieg, do Departamento de Polícia de Dunwoody, Geórgia, cliente do Flock, descreveu o recurso em um comunicado à imprensa como “um mecanismo para nos informar sobre qualquer tipo de preconceito”.
Flock descreve o Audit Assist como um recurso que “pode descobrir atividades incomuns antecipadamente e revisá-las rapidamente por meio de um fluxo de trabalho claro e documentado”.
O que não está claro é – e o TechCrunch pediu respostas sobre como esse “algoritmo” realmente funciona, em quais dados ele é treinado e se foi desenvolvido usando uma grande amostra de linguagem. O TechCrunch também perguntou que tipo de padrões foram projetados para serem criados e o que seria sinalizado adequadamente como “atividade anormal”.
Segundo Flock, assistência de auditoria não é básica [Machine Learning] Ou IA. A empresa disse ao TechCrunch: “É uma ferramenta de dados que sinaliza diferentes padrões de pesquisa para revisão adicional. Um exemplo de acionamento de um sinalizador é se um usuário pesquisa o mesmo blade usando vários códigos de caso diferentes, o que pode indicar abuso.
No entanto, várias questões permanecem sem resposta, incluindo se a Flock possui estatísticas ou dados, quão eficaz é a ferramenta, quais são as suas taxas de falsos positivos e falsos negativos e se foi auditada por terceiros.
Especialistas em privacidade e críticos do Flock não estão impressionados com a ajuda à censura.
O conselheiro político sênior da União Americana pelas Liberdades Civis, Chad Marlowe, escreveu em resposta ao anúncio de Flock que “não há evidências de que a ferramenta continue a funcionar” para lidar com o abuso.
“Embora dezenas de funcionários tenham sido recentemente presos, despedidos ou de outra forma punidos por abusarem do rebanho por motivos pessoais, estas detenções são uma prova da eficácia do seu aparelho de censura”, escreveu Marlowe. “No entanto, a menos que saibamos o número de agentes que abusam do sistema, não podemos concluir se o Flock e as suas ferramentas de auditoria capturam 95% ou 5% dos infratores. O Flock deve ser analisado por um avaliador independente para determinar a sua verdadeira eficácia. Até lá, não saberemos se a ferramenta é uma medida de segurança genuína ou uma janela.”
Cooper Quintin, pesquisador de segurança e tecnólogo sênior em políticas públicas da Electronic Frontier Foundation, disse ao TechCrunch que nem importa se a assistência de auditoria funciona.
“Se funcionar, as autoridades policiais encontrarão formas de contornar a situação”, disse ele, acrescentando que o que importa em última análise é se os abusadores serão apanhados e responsabilizados. “Se não houver consequências para o abuso e qualquer pessoa [the tool] Denunciar o abuso à mesma agência policial é uma folha de parreira para o rebanho. A melhor maneira de garantir a responsabilização é promulgar leis que restrinjam o uso desta tecnologia e exijam um mandado para seu uso.
Rachel Levinson-Waldman, diretora do Programa de Liberdade e Segurança Nacional do Centro Brennan, disse ao TechCrunch que exigir assistência de auditoria é um passo na direção certa e que a ferramenta é “uma ótima ideia” “em teoria”. Mas acrescentou que a ferramenta em si “precisa ser examinada” porque não há informações suficientes sobre como funciona na prática.
Os anúncios da Flock ocorrem após anos de repetidos incidentes de uso indevido de sua tecnologia por seus clientes. No início desta semana, três ex-xerifes da Geórgia foram presos e acusados de usar câmeras Flock para atingir pessoas com quem “tinham um relacionamento pessoal na época”. Neste caso, o xerife do condado de Bibb, David Davis, apelou especificamente à nova ferramenta da Flock para detectar abusos de assistência de auditoria.
Quando você faz uma compra através dos links dos nossos artigos, podemos receber uma pequena comissão. Isso não afeta nossa liberdade editorial.
