Vancouver, Canadá: Na era da falsificação de insights de inteligência artificial e da tomada de decisões baseada em dados, o Canadá está trabalhando para alterar suas leis de privacidade por meio do Projeto de Lei C-36, a Lei de Privacidade e Proteção de Dados do Consumidor.
Anunciado em junho, o projeto de lei C-36 é a primeira grande revisão das leis de privacidade do setor privado do Canadá em mais de 25 anos. O projeto de lei deixa claro que a privacidade é um direito fundamental e também visa fornecer proteções mais fortes aos dados pessoais das crianças. Adicione direitos de exclusão e precise de mais transparência Quando a automação toma decisões importantes sobre pessoas
Histórias recomendadas
4 itensfim da lista
As reformas também ocorrem em meio a um maior escrutínio da IA. Depois de eventos como o tiroteio em Tumbler Ridge, na Colúmbia Britânica, em fevereiro. Isso levanta mais questões sobre chatbots de IA, usuários vulneráveis. e responsabilidades das empresas de tecnologia
O suspeito do tiroteio, de 18 anos, é acusado de usar o ChatGPT antes do ataque. A família da vítima agora está processando a OpenAI, dizendo que a equipe de segurança de IA da empresa sinalizou os duros avisos. Mas não notificou as autoridades. Esta semana, a província da Colúmbia Britânica também anunciou que também está “se preparando para tomar medidas legais” contra a empresa de IA.
Entretanto, o Governo do Canadá planeia modernizar as regras de privacidade do consumidor do setor privado através do projeto de lei C-36.
Evan Solomon, Ministro de IA e Inovação Digital do Canadá, disse à Al Jazeera que a responsabilidade do governo é “Proteger os canadenses online e garantir que os canadenses se beneficiem da inteligência artificial e das tecnologias emergentes. Esses objetivos não são mutuamente exclusivos”.
“O projeto de lei C-36 estabelece uma estrutura para o uso responsável de dados anonimizados. Inclui proteções destinadas a reduzir o risco de reidentificação, ao mesmo tempo que apoia atividades importantes de interesse público. incluindo responsabilidade em pesquisa e inovação”
Mas à medida que os sistemas de IA se tornam mais capazes de prever, traçar perfis e influenciar as pessoas, os especialistas dizem que o desafio já não diz respeito apenas aos dados que as empresas recolhem. Mas é algo que a IA pode inferir do usuário.
A questão é se as leis de privacidade podem acompanhar o ritmo da tecnologia concebida para prever, traçar perfis e influenciar o comportamento humano.
Informações resumidas
O maior problema é que a IA está mudando a ponto de prejudicar a privacidade, segundo Ignacio Cofone, professor de legislação e regulamentação de IA na Universidade de Oxford.
“As antigas leis de privacidade sustentavam que o perigo reside no que as empresas recolhem de você. O perigo agora reside no que as empresas inferem sobre você a partir de dados que você nunca entrega e no que as empresas fazem com a inferência da IA”.
Por outras palavras, os actuais sistemas de IA não exigem que ninguém divulgue voluntariamente informações sensíveis. padrões de comportamento de compras Histórico de navegação Informações de localização ou atividades on-line Isso pode ser suficiente para que um algoritmo faça previsões surpreendentemente precisas sobre a saúde, as finanças ou o comportamento de uma pessoa.
“Um modelo treinado em dados (Anônimo) pode criar decisões que prejudicam certos tipos de pessoas, sem apontar uma pessoa identificada que possa reclamar”, disse Cofone à Al Jazeera.
O projeto de lei C-36 responde expandindo a definição de informações pessoais para incluir informações inferidas. e especifique várias organizações Explique algumas decisões automáticas.
Mas, como argumentou Cofone, o verdadeiro desafio é garantir que as regulamentações visem utilizações prejudiciais da IA. Não se trata apenas de coletar informações.
“Os modelos podem prever sua saúde, seu gênero ou sua confiabilidade financeira a partir de traços estranhos. Em seguida, aja de acordo com as previsões. Não houve vazamento ou violação de dados no sentido geral”, disse ele.
“Isso é extremamente importante porque leva a lei ao ponto onde o dano da IA realmente ocorre, fazendo inferências e decisões. Em vez de deixá-la presa à coleção.”
Protegendo as crianças on-line
Proteger a privacidade das crianças é uma das principais reformas do projeto de lei C-36. O projeto classificaria as informações de qualquer pessoa com menos de 18 anos de idade como confidenciais. e dar aos jovens um direito mais forte de eliminar os seus dados pessoais.
Para Stephany Oliveros, professora ética de IA e CEO da Just Lyra, uma plataforma de correspondência de talentos de IA, a privacidade e o consentimento dos dados estão relacionados à agência do usuário.
“Doar meus dados para pesquisas sobre o câncer é uma coisa. Mas outra coisa é se uma empresa de tecnologia descobrisse o tipo sanguíneo e o comportamento do meu filho, por exemplo, por que o Facebook precisa saber disso?”
Kofone acrescentou que as mudanças que acompanham o projeto de lei C-36 valem a pena, mas resolvem apenas parcialmente o problema.
“Isso ajudaria, modestamente, e por menos do que o limite recomendado. Este projeto de lei faz duas coisas pelas crianças: considera as informações das crianças sensíveis. Isso aumenta o nível de consentimento e segurança que as organizações devem. E ajuda as crianças a terem um direito mais forte de apagamento. Ambos são úteis.”
Mas ele disse que o maior desafio está em outro lugar.
“Proteções mais pesadas do que as pessoas desejam para as crianças. Online é um design adequado à idade e limites para o que a plataforma pode fazer.”
Jill Ma, fundadora de tecnologia que trabalha com produtos de IA para crianças, disse que, além da privacidade, a próxima área é a justiça algorítmica.
“Privacidade não é apenas controlar dados. É também não ser julgado por algoritmos”, disse ela. “As pegadas digitais da infância não devem se tornar rótulos para toda a vida. Nosso trabalho como criadores (de produtos) é ensinar a IA a respeitar as pessoas. Não se trata apenas de coletar seus dados.”
Para pais preocupados como Martin Haucke, pai de um filho de Vancouver. Uma questão mais importante são as normas culturais que permitem a Internet para crianças.
“O mundo físico é o mais seguro que já existiu. E o mundo online é uma ameaça real à segurança das crianças. A maior”, disse ele, “mas ainda consideramos o mundo real um lugar perigoso.
No início do ano passado, Ottawa promulgou legislação separada propondo restrições ao acesso das redes sociais a plataformas como o TikTok para utilizadores com menos de 16 anos. Outros governos em todo o mundo também começaram a responder na mesma moeda. no ano passado, a Austrália aprovou uma lei que restringe o acesso a determinadas plataformas de redes sociais a pessoas com menos de 16 anos de idade.
“É regressivo”, disse Haucke, que também é professor na escola. “O que queremos é que não haja telefones nas escolas. Há mais tempo para socializar lá fora.”
A privacidade é apenas parte da solução.
A privacidade é apenas um aspecto da regulamentação da IA. Especialistas dizem que as futuras leis de IA devem equilibrar a segurança do usuário. comunicação de massa e interesse público
“À medida que a tecnologia continua a evoluir”, disse Solomon, “continuaremos a colaborar com investigadores, jornalistas e especialistas em privacidade. A sociedade civil e outras partes interessadas para garantir que o quadro de privacidade do Canadá permaneça eficaz, equilibrado e que responda às expectativas dos canadianos”.
Um exemplo desse desafio é o tratamento dado pelo projeto aos dados anonimizados. É uma questão que suscitou debate entre especialistas em privacidade, investigadores e jornalistas.
Isto apesar da lei tentar impedir que as organizações reconstruam identidades individuais a partir de conjuntos de dados não identificados. Especialistas como Cofone, da Oxford Law, dizem que isso depende de como as organizações e os pesquisadores devem poder usar dados anonimizados de maneira responsável.
“Eu separaria as duas preocupações. Na área do trabalho nos meios de comunicação social, o projeto continua a isentar o trabalho jornalístico, artístico e literário”, afirmou. “O jornalismo investigativo tem as mesmas proteções que tinha sob a lei antiga. O problema mais difícil é a pesquisa. Isso muda a forma como este projeto de lei traça a linha entre dados não identificados e anônimos.”
Oliveros, professor ético de IA afiliado às Nações Unidas, disse que o debate vai além das definições legais de privacidade. e deveria mencionar a responsabilidade. Restringir o acesso à informação poderia tornar mais difícil para jornalistas e organizações de direitos humanos exporem irregularidades, disse ela.
“Os vigilantes não podem confiar nas instruções da organização”, disse Oliveros à Al Jazeera, “para encontrar racismo ambiental. Viés de algoritmo ou empréstimos predatórios Jornalistas e grupos de direitos humanos precisarão de acesso a esta informação granular, linha por linha, se o projeto de lei C-36 bloquear tudo sob a bandeira da privacidade. Isso protegeria organizações involuntariamente poderosas da responsabilidade pública. A privacidade não deve se tornar uma capa legal para o sigilo corporativo”.
Mas pode não haver uma resposta simples.
“Se a definição de investigador de interesse público for demasiado vaga, a lei falhará. Mas se for demasiado rigorosa, encerrará jornalistas independentes e ONG de base que realizam um trabalho árduo em matéria de direitos humanos”, disse Oliveros.
Embora o projeto de lei se concentre na proteção de dados pessoais, Eric Wishart, autor de ética jornalística e professor da Universidade de Hong Kong, disse que as leis de privacidade devem preservar a capacidade dos jornalistas de prestarem contas aos que estão no poder e o direito do público de saber a informação.
Ele aponta o conflito EUA-Israel com o Irão como um exemplo.
“Há muito pouca informação que o Departamento de Defesa tenha divulgado sobre o ataque ao Irão. Portanto, os jornalistas devem confiar em imagens da (plataforma de imagens de satélite) Planet Labs para rastrear os danos. Era um recurso importante que mostrava locais de ataques bombistas, mas depois o Planet Labs anunciou que estava a reter imagens da guerra a pedido do governo dos EUA.”
“Devemos equilibrar a necessidade de proteger a privacidade das pessoas com o direito dos jornalistas de realizarem trabalho de investigação no interesse público”, disse ele. “As leis concebidas para abordar as preocupações legítimas de privacidade dos indivíduos, incluindo as crianças, não devem impedir os jornalistas de investigar potenciais irregularidades cometidas por figuras públicas ou autoridades.”
O projeto de lei C-36 pode representar a reforma de privacidade mais importante do Canadá em décadas. Mas o desafio para os governos é garantir que as regulamentações evoluam tão rapidamente quanto a tecnologia, dada a capacidade da IA de prever o comportamento. influenciar a tomada de decisões e fazer mais ajustes na vida diária
Para Oliveros, o debate resume-se, em última análise, a quem detém o poder num mundo movido pela IA.
“Os direitos de privacidade de dados mudam a dinâmica. Assim, o poder volta para você”, disse ela. “Você possui algo – sua identidade.”
