O processo diz que a ferramenta de IA coloca desproporcionalmente prisioneiros negros em segurança máxima em Ontário

Um programa de inteligência artificial usado para relatar os níveis de segurança dos prisioneiros nas prisões de Ontário está colocando desproporcionalmente os prisioneiros negros em situações de segurança máxima, de acordo com pesquisa publicada por De Broach e uma ação coletiva foi movida contra a província.

O relatório, do jornalista Desmond Cole, explorou a ferramenta de Avaliação de Risco de Segurança (SAFER) que foi usada nas prisões de Ontário em 2021 para atribuir aos prisioneiros uma pontuação de risco com base no seu histórico de detenções e disciplinar.

Citando informações de controle Relatada por Scott Wortley, da Universidade de Toronto, a questão relatou que os negros representam cerca de 5 por cento da população de Ontário, mas representarão quase 27 por cento dos prisioneiros em segurança máxima entre 2022 e 2025, enquanto os brancos estão significativamente representados nessa categoria em relação à população.

Sobre o tipo de açãofeito pelo escritório de advocacia de Koskie Minsky, a província alega que está ciente da dependência da ferramenta nos dados históricos do sistema de justiça – que refletem disparidades nacionais documentadas no policiamento e na ordenação – que pode prejudicar desproporcionalmente os prisioneiros negros e que Ontário adotou medidas de mitigação para os prisioneiros indígenas ao não estender proteções semelhantes aos prisioneiros negros. Documentos internos de treinamento do ministério citados por The Breach reconheceram que “avaliações como o SAFER provavelmente contribuirão para a representação excessiva” de povos indígenas e racializados em segurança máxima.

A violação relatou que nem o Ministério do Procurador-Geral de Ontário nem Grant Duwe, o pesquisador responsável por pensar no SAFER, responderam aos pedidos de comentários sobre a metodologia ou precisão do programa. O relatório do Provedor de Justiça de Ontário sobre a investigação observou que tinha recebido queixas sobre o impacto desproporcional das instalações sobre os prisioneiros negros e indígenas e que o serviço continuou a investigar o programa.