- Relatório de segurança de IA gera processo após startup negar acusações de crimes cibernéticos
- MeetingTV desafia Koi por análise automatizada de ameaças supostamente imprópria
- Ausente que se torna a questão central na controvérsia do relatório de segurança cibernética
A MeetingTV abriu um processo contra a Palo Alto Networks e sua subsidiária Koi Security em uma postagem recente no blog, alegando que seu sistema de IA gerou alegações falsas que contribuíram para o início da campanha de investigação chinesa.
Documentos judiciais descrevem a dependência imprudente da publicação numa ferramenta analítica automatizada sem verificação humana adequada.
O processo alega que Koi alavancou fortemente sua plataforma analítica proprietária que gerou links falsos entre MeetingTV e um grupo de crimes cibernéticos chamado DarkSpectre e, de acordo com documentos judiciais, a startup afirma que o sistema criou links não suportados que foram usados como evidência de atividade criminosa.
As invenções geradas pela IA tornaram-se no centro da controvérsia jurídica
O fundador da MeetingTV, Michael Robertson, disse que o relatório é baseado em informações que surgiram de um Ferramenta de IA sem verificação humana suficiente.
“As falsas atribuições foram um produto direto da confiança indiscutível de Koi”, disse o processo, referindo-se à alegada confiança na análise automatizada.
O relatório discutido em conjunto com o serviço Zoomcorder da MeetingTV para a campanha envolve uma extensão de navegador chamada Twitter X Video Downloader.
No entanto, a ação afirma que não houve prorrogação e que Koi não apresentou provas que sustentassem a ligação técnica.
A MeetingTV alega que esse componente ausente é a base do argumento de Koi que liga a empresa a uma campanha maior de malware.
A startup afirma ainda que Koi não entrou em contato com a empresa antes de publicar o relatório ou dar oportunidade de esclarecimentos.
Depois que o relatório apareceu online, muitas empresas de segurança e provedores de serviços bloquearam as propriedades da MeetingTV, rotulando-as como infraestruturas maliciosas.
A empresa afirma que estas ações afetaram o acesso aos serviços e prejudicaram a sua reputação entre clientes e parceiros.
Os relatórios de segurança cibernética são mais amplamente baseados em IA
Posteriormente, a Koi Security removeu do relatório as referências ao produto MeetingTVs Zoomcorder, embora a startup tenha argumentado posteriormente que os danos continuaram.
A Palo Alto Networks, que adquiriu a Koi Security em abril, reconheceu estar ciente do problema ao defender o processo de pesquisa de segurança cibernética da Koi.
A empresa disse que Koi está trabalhando muito para identificar ameaças e aguardar que as ações judiciais sigam o processo legal.
No entanto, a MeetingTV argumenta que a análise automatizada de segurança requer um escrutínio mais rigoroso antes que as conclusões sejam partilhadas publicamente.
Os sistemas de IA já produzem informações falsas e até alertam muitos utilizadores sobre esta possibilidade, para que as suas informações nunca sejam verificadas como factos.
Os investigadores de segurança dependem cada vez mais de ferramentas automatizadas para processar grandes volumes de dados, mas provar as suas conclusões continua a ser um desafio persistente e sem solução.
Se for o direito de submeter a MeetingTV a tribunal, a controvérsia poderá levar a um exame mais detalhado de como os relatórios de ameaças gerados por IA são produzidos e revisados.
A política é, portanto, simples: as conclusões tiradas da análise assistida por IA devem ser cuidadosamente verificadas, especialmente quando os erros podem causar danos graves a um indivíduo ou empresa.
O caminho Cadastre-se
Siga o TechRadar no Google Notícias e adicione-nos para encomendar a primavera para receber notícias, análises e opiniões de nossos especialistas em seu feed. Certifique-se de clicar no botão Seguir!
E é claro que você também pode Siga o TechRadar no TikTok Receba notícias, análises, unboxings em formato de vídeo e atualizações regulares nossas whatsapp também
