- A Cisco alerta que os relatórios de incidentes gerados por IA são muitas vezes imprecisos, inconsistentes e propensos à perda de dados devido a limitações do LLM
- A empresa aconselha sobre granularidade, sugere uma coisa, documenta princípios fixos e estabelece regras rígidas para melhorar a estabilidade.
- A contaminação cruzada entre relacionamentos continua a ser um desafio, com os investigadores recomendando novas sessões para cada novo incidente de relacionamento para evitar erros.
Qualquer empresa que queira implementar seus relatórios de segurança usando IA vai querer ler o romance anunciar da Cisco descreveu a experiência de relatar incidentes gerados por IA.
A empresa alertou que os usuários de IA para criar formulários técnicos devem esperar “imprecisões significativas, conclusões incomuns e estilos de escrita inconsistentes”, especialmente devido à natureza probabilística do Large Language Processing (LLM).
“Esses modelos geram resultados prevendo o próximo sinal, normalmente uma palavra ou subpalavra, sequências, com base em pesos de padrões e informações de treinamento”, diz Cisco, ou, como diz o Register, “o próprio sistema é uma suposição de preenchimento automático que faz suposições fundamentadas”.
O que funciona e o que não funciona
Como a IA está basicamente prevendo a próxima palavra, criando quatro problemas principais, de acordo com a Cisco:
- LLMs usam dados diferentes para cada nova questão, tornando a consistência e a padronização um desafio
- Mesmo que a mesma informação seja compartilhada, o resultado sempre será inalterado
- Cada novo documento terá estrutura e formato diferentes, o que é mais um padrão
- A IA frequentemente rejeita dados valiosos, alterando o resultado
- Isto não significa que a IA seja inútil numa relação técnica de longo prazo – muito pelo contrário. As empresas ainda podem salvar muitos dados, mas a ferramenta precisa ser instalada e otimizada corretamente.
A Cisco diz que uma boa abordagem é fornecer à IA “instruções granulares e de tarefa única em uma parte específica e pequena do relatório”.
A empresa também disse que a IA não deveria ser livre para escolher suas fontes de relatórios, mas deveria apresentar documentos confiáveis. Finalmente, a IA deve ter instruções claras sobre formatação e estilo.
“O teste cego de um relatório de amostra em nosso processo de garantia de qualidade não mostrou nenhuma queda significativa na qualidade geral da escrita”, disse Cisco.
“Um revisor, um editor profissional e um revisor de gestão fizeram comentários elogiosos sobre o relatório, sem saber que ele foi gerado por IA. Um revisor perspicaz comentou que a incidência de erros de digitação e erros gramaticais foi muito menor do que a média do relatório.”
A Cisco descobriu ainda outro desafio: quando a IA é solicitada a editar vários relatórios de amostra em uma sessão, o conteúdo de uma fonte de material é contaminado cruzadamente com outro, “mesmo que as notas para gerar o primeiro relatório tenham sido excluídas do documento de referência”.
Para contornar esse problema, os pesquisadores recomendaram iniciar uma nova sessão e sugerir novos ingredientes para cada relatório de incidente.
O melhor antivírus para todos os orçamentos
Siga o TechRadar no Google Notícias e adicione-nos para encomendar a primavera para receber notícias, análises e opiniões de nossos especialistas em seu feed.
