- Relatório diz que a IA está recebendo muito poder e autonomia para lidar com decisões de segurança críticas para os negócios
- 70% das organizações delegam decisões tomadas por humanos há 12 meses à IA
- Existe uma ‘lacuna de controle’ entre o poder dado à IA e a capacidade da organização de auditá-la
Delegar decisões complexas à inteligência artificial está levando as organizações a usar tecnologias relativamente novas para contabilizar as permissões dos usuários, controlar dados confidenciais e arriscar problemas de segurança, diz uma nova pesquisa.
Um estudo da Illumio examinou como as organizações poderiam entregar decisões recentemente executadas por humanos à inteligência artificial, aparentemente sem considerar a possibilidade de problemas graves.
O estudo descobriu que a maioria (70%) das organizações delega decisões anteriormente tomadas por humanos à IA, mas apenas cerca de metade (49%) pode ver e auditar quais ações o agente de IA tomou.
Último vídeo deRadar Tecnológico
Recomendações de Inteligência Artificial
A natureza dos agentes de IA torna esta tática particularmente perigosa, com pesquisas revelando que incríveis 56% das organizações estão dispostas a aceitar maiores riscos cibernéticos do que há 12 meses. Quase metade (47%) deste grupo admite permitir operações de IA em ambientes de produção.
Permitir que agentes de IA executem livremente dados, aplicativos e infraestrutura corporativa leva a situações completamente evitáveis. A pesquisa da Illumio encontrou uma lacuna de controle entre as regras sob as quais as organizações acreditam que os agentes de IA operam e as capacidades reais da tecnologia.
No ano passado, aproximadamente 76% das organizações enfrentaram um ou mais problemas de segurança devido à IA, com 35% revelando que seguir as recomendações da IA resultou em riscos de segurança. Enquanto isso, 26% dos entrevistados disseram que agentes ou ferramentas de IA foram conectados a outros sistemas sem as aprovações necessárias.
Ainda mais preocupante, 24% das organizações afirmaram que a IA acedeu a dados que não deveria ter sido capaz de ver, e outros 24% afirmaram que desencadeou (ou resultou em) ações não autorizadas.
restrições estritas
É claro que a IA já está a ser utilizada na segurança cibernética e vários fornecedores provaram ter sucesso com soluções melhoradas por IA. Mas embora 67% das organizações utilizem ferramentas de segurança cibernética de IA, 32% permitem que a IA conduza investigações sem supervisão humana e 29% permitem que o software implemente alterações de código sem qualquer supervisão.
Raghu Nandakumara, vice-presidente de estratégia industrial da Illumio, observou: “O maior risco da IA pode não ser os sistemas que quebram as regras.
A liberação irrestrita de agentes de IA dificulta o controle do software pelas empresas.
Como observa Nandakumara, os agentes de IA são persistentes e não faz sentido tentar enganar o seu próximo passo. Em vez disso, “as empresas devem estabelecer limites estritos sobre o que podem acessar e fazer, e então impor esses limites dentro dos aplicativos e em toda a infraestrutura subjacente. É assim que você contém o comportamento inesperado antes que ele possa causar danos reais”.
Siga o TechRadar no Google Notícias e Adicione-nos como sua fonte preferida Receba notícias, análises e opiniões de nossos especialistas em seu feed.
