Quando Ian Clayton, um profissional aposentado de saúde e segurança de Chester, apareceu no Home Bargains na hora do almoço em fevereiro, foi subitamente abordado por um membro da equipe de aparência severa.
“Desculpe, você pode largar tudo e sair da loja agora?” ele disse. Clayton se lembra de ter ficado atordoado e só quando passou rapidamente pelo caixa em direção à saída é que parou para perguntar o que havia feito.
“Você entrou em nosso sistema chamado Facewatch como ladrão de lojas”, respondeu ele. “Há cartazes nas janelas.” Com isso, ele ficou sozinho do lado de fora da loja, com um QR code para escanear e sem ideia do que estava acontecendo.
Ele foi uma das várias pessoas que falaram com o Guardian depois de terem sido erroneamente identificados como ladrões por lojas que usavam o Facewatch, um sistema de reconhecimento facial ao vivo que está sendo implementado em todo o Reino Unido para reprimir o crime no varejo.
O site da empresa afirma que seu sistema tem uma taxa de precisão de 99,98% e no mês passado enviou 50.288 alertas sobre “infratores conhecidos” para lojas como B&M, Home Bargains, Sports Direct, Farm Foods e Spar, que agora usam o software.
Mas aqueles que foram mal identificados e forçados a abandonar a loja, seja por causa da própria tecnologia ou por erro humano, disseram que não receberam qualquer apoio e não sabiam como reclamar do seu tratamento ou provar a sua inocência.
Clayton, 67, disse que depois de ser expulso do Home Bargains, ele tentou ligar para o número de telefone no pôster do Facewatch e recebeu uma mensagem dizendo que a empresa não estava atendendo ligações e que ele deveria enviar um e-mail.
Ele só conseguiu obter respostas depois de apresentar um pedido de acesso ao assunto – um pedido formal ao abrigo das leis de proteção de dados para informações pessoais – que revelou que ele tinha sido indevidamente associado a um incidente de furto numa visita anterior à loja.
“Parecia que eu era culpado até ser provado inocente. É uma sensação terrível. Deixa um nó no estômago e quando olho para trás agora posso sentir isso de novo”, disse ele.
“Parece muito orwelliano. Estamos constantemente sendo gravados e conectados a esses sistemas, mas precisamos estar lá? Parece espionagem sem motivo. Estou muito ciente das câmeras em todos os lugares hoje em dia, estou muito ciente delas.”
A Home Bargains acabou apresentando-lhe um pedido de desculpas e um voucher de £ 100 como um “gesto de boa vontade de não reconhecimento”, com a condição de que os detalhes do incidente permanecessem confidenciais. Clayton retrucou: “Eu apenas pensei: ‘Sério, você está tentando comprar meu silêncio?’”
À medida que o reconhecimento facial se espalha pelas forças policiais e lojas de retalho, o comissário de biometria da Grã-Bretanha alertou que a vigilância nacional ainda está muito aquém do rápido desenvolvimento da tecnologia.
No ano passado, o Ministério do Interior reconheceu que as câmaras de reconhecimento facial eram mais propensas a identificar erroneamente pessoas negras e asiáticas do que pessoas brancas, e mais mulheres do que homens, e havia pesquisas conflitantes sobre a precisão geral das câmeras.
Warren Rajah, um estrategista de dados no sul de Londres, foi convidado a largar sua cesta de compras e sair da loja Sainsbury’s local depois de ser informado que estava usando o sistema Facewatch em fevereiro.
“Para mim, esta é uma questão de direitos civis que estamos a abordar lentamente, porque se você for removido sem questionamento, os seus direitos civis serão afetados”, disse ele.
“Já vivemos em um país que tem problema de racismo, esse é um problema que não pode ser evitado. E sabemos que as câmeras não conseguem captar com precisão as características de pessoas com traços mais escuros.
Ele disse ter grandes preocupações sobre a aplicação desta tecnologia no policiamento, bem como no setor varejista.
“Quem regula essas empresas e podemos confiar nossas informações a elas? E o mais importante, ninguém está realmente explicando o que fazer se algo der errado”, disse ele.
Depois de receber inúmeros e-mails, ele finalmente descobriu que não estava no sistema de banco de dados do Facewatch e que membros da equipe o haviam identificado incorretamente. Foi-lhe oferecido um voucher de £ 75 como desculpa – quando ela disse que não se sentia confortável em voltar à loja, foi orientada a usá-lo online.
Jennie Sanders, 48 anos, de Birmingham, estava navegando na B&M em uma tarde de sábado do ano passado, quando um segurança lhe disse que ela havia sido sinalizada no sistema Facewatch e que ele deveria mostrar-lhe a loja para ter certeza de que ela não roubaria.
“Fiquei muito irritado. Foi na frente de muita gente e fiquei muito envergonhado. Eu disse que queria ir embora e ele me tirou da loja”, disse ele.
“Foi assustador, mas o que foi ainda mais assustador foi quando cheguei em casa e comecei a procurar o Facewatch, vi que eles estavam compartilhando informações entre vários varejistas.
“Pensei: ‘Vou ser tratado como um ladrão em todas as lojas. Nunca mais poderei fazer compras pessoalmente.’”
Disseram-lhe que deveria enviar uma cópia de seu passaporte ao Facewatch para provar sua identidade antes de descobrir que estava no sistema por roubar uma garrafa de vinho da B&M, o que ele disse nunca ter acontecido.
A B&M disse a ele que não havia mais evidências, incluindo imagens de CCTV do dia, então ele foi removido do sistema e ofereceu um voucher de £ 25.
“Tirei alguns dias de folga do trabalho, fiquei completamente inconsciente. Por que entrei no banco de dados criminais sem meu conhecimento?” ele disse. “Nunca mais entrarei na B&M. Tento ficar longe de lugares que tenham câmeras – isso realmente me afeta.”
Sanders disse que apresentou uma queixa ao Information Commissioner’s Office (ICO), o órgão formal de fiscalização que monitora como as informações pessoais são usadas na tecnologia de reconhecimento facial, mas sete meses depois não recebeu resposta.
Ele acrescentou: “Fomos solicitados a apresentar uma queixa e enviar toda a correspondência à comissão de informação, mas eles não responderam. O que aconteceu com qualquer resposta às vítimas disso?”
Rajah também considerou registrar uma reclamação junto à OIC, mas não conseguiu encontrar nenhuma informação sobre como fazê-lo.
“Eles são muito desdentados”, disse ele, “E esta questão foi bem relatada e eles não publicaram um processo formal de reclamação. Onde está a informação? Como você pode reclamar quando não há caminho a seguir?”
Um porta-voz da Sainsbury disse: “Pedimos sinceras desculpas ao Sr. Rajah por sua experiência em nossa loja Elephant and Castle. “Este não foi um problema com a tecnologia de reconhecimento facial usada, mas um caso em que a pessoa errada foi abordada na loja.
“O sistema Facewatch tem uma taxa de precisão de 99,98% e todas as partidas são revisadas por treinadores treinados, com treinamento adicional fornecido após este incidente para garantir que nossas medidas de segurança sejam seguidas de forma consistente.”
Nick Fisher, executivo-chefe da Facewatch, disse: “Estamos cientes dos assuntos mencionados e, em cada caso, agimos assim que contataram a equipe de proteção de dados da Facewatch.
“Esses casos estão relacionados a erros humanos na forma como os processos foram realizados na loja, e não a uma falha da tecnologia Facewatch. Lamentamos que essas pessoas tenham enfrentado desafios durante as compras e entendemos por que isso pode ser decepcionante.
“Estes três erros são casos extremamente raros quando vistos no contexto dos mais de 500.000 alertas que enviamos aos retalhistas todos os anos, mas reconhecemos que qualquer erro seria perturbador para o indivíduo em questão. Este sistema foi concebido para apoiar, e não substituir, a tomada de decisão humana.”
Um porta-voz da OIC disse: “Reconhecemos os danos e perturbações que a identificação incorreta pode causar. Portanto, o uso da tecnologia de reconhecimento facial deve cumprir rigorosamente as leis de proteção de dados e ser tratado com cuidado e transparência.
“Se alguém tiver uma preocupação sobre a forma como os seus dados são recolhidos, utilizados ou partilhados, e essa preocupação não puder ser resolvida diretamente com o retalhista, tem o direito de reclamar connosco.
“Também continuamos a regulamentar ativamente esta área e publicaremos mais orientações focadas no retalho para apoiar os retalhistas na compreensão e cumprimento das suas obrigações de proteção de dados, garantindo ao mesmo tempo que o público está bem protegido.”
A Home Bargains e a B&M não quiseram comentar.
