Embora a inteligência artificial (IA) continue a dominar as conversas de negócios, a adoção generalizada ainda é um tanto lenta.
Na verdade, apenas um terço dos profissionais afirmou que programas de IA estão a ser implementados nas suas organizações.
Muitas empresas continuam hesitantes em ir além dos projectos-piloto, com um grande obstáculo de desconfiança.
Preocupações com confiança, proteção de dados, segurança de TI, justiça e possíveis abusos também continuam a retardar a adoção.
Para colmatar esta lacuna, as empresas devem compreender o que está por trás delas, como colmatar essa lacuna e como garantir que estes processos são escalonados em toda a empresa.
O que está por trás da lacuna de confiança?
A confiança reduzida nos sistemas de IA continua a atrasar as organizações. Apenas 57% das equipas de IA e de dados confiam plenamente nos resultados dos sistemas de IA e, entre gestores de produtos e desenvolvedores de software, este número cai para um terço. Esta é uma falta mais ampla de confiança de que a IA está cada vez mais incorporada nas operações.
Os desenvolvedores assumem um elemento diferente de medo. As alucinações, quando os modelos de IA geram informações que parecem verossímeis, mas na verdade são falsas, fazem com que os trabalhadores de baixo nível se preocupem com sua confiabilidade em casos de uso importantes ou sensíveis.
Da mesma forma, a segurança cibernética, incluindo a segurança das informações incorporadas nos sistemas de IA, o risco de fugas para terceiros, o potencial dos atacantes para comprometer os ambientes de IA, com padrões éticos, e se o interesse no sistema pode mudar ao longo do tempo, ao mesmo tempo que continuam a aprender na acção, todos contribuem para a desconfiança nos modelos de trabalho de IA.
Construindo confiança na IA
À medida que as organizações procuram construir confiança na IA, a gestão da qualidade torna-se uma prioridade maior. Na verdade, 79% dos decisores no local de trabalho vêem uma ligação direta entre a confiança na IA e medidas proativas de garantia de qualidade, como testes regulares, monitorização e vigilância.
A confiança só pode ser construída quando os sistemas de IA e os dados por trás deles estão sujeitos a controles de qualidade abrangentes que são aplicados continuamente, e não apenas como uma verificação única pré-implantação.
Uma base sólida começa com dados de qualidade. As organizações precisam ter certeza de que os dados que alimentam os sistemas de IA são completos, atualizados e precisos. Os resultados da IA são tão fiáveis como os inputs que dela dependem, pelo que informações defeituosas ou incompletas conduzirão inevitavelmente a resultados insatisfatórios. Uma marca robusta de governança é essencial para permitir decisões baseadas em IA no uso no mundo real.
A gestão da qualidade também deve abranger a segurança, a conformidade e o controle de acesso. As organizações precisam de salvaguardas para garantir que os dados internos do sistema não sejam vazados para terceiros e que a IA cumpra os requisitos regulamentares, como a Lei de IA da UE e o GDPR.
Obviamente, a capacidade do sistema para proteger negócios sensíveis é igualmente importante. Por exemplo, as organizações devem garantir que os registos de RH só possam ser acedidos por pessoal de RH autorizado, com controlos implementados para monitorizar e gerir a forma como esses dados são utilizados no ambiente de IA.
Ao mesmo tempo, a confiança não significa apenas reduzir riscos. As organizações querem garantir que os investimentos em IA proporcionem valor mensurável, com mais de metade das empresas citando o aumento do retorno sobre o investimento (ROI) resultante da implementação da IA como uma prioridade fundamental. Isso prova que a confiabilidade e o desempenho são tão importantes quanto a segurança e a governança.
Por que a gestão da qualidade ainda está lutando para subir?
Para muitas empresas, o desafio não é mais usar ou não a IA, mas como implantá-la adequadamente. Isto é difícil de provar porque os processos de gestão da qualidade ainda dependem fortemente da inspeção manual.
A gestão da qualidade deve ser estendida ao longo de todo o ciclo de vida da IA, desde a concepção e formação do modelo até aos testes e monitorização durante a produção contínua.
No entanto, entre as empresas que realizam apenas testes, apenas 15% a 29% implementaram processos automatizados de garantia de qualidade em qualquer fase do desenvolvimento da IA. Isto significa que os controlos de qualidade são frequentemente geridos, total ou parcialmente, manualmente, o que os torna morosos, dispendiosos e propensos a erros humanos.
Em última análise, aqui estão os limites da adoção da IA. A implantação em grande escala é difícil de conseguir, uma vez que a garantia de qualidade depende do trabalho manual, uma vez que as implantações em grande escala exigiriam um aumento significativo de pessoal.
Muitas organizações também estão tentando gerenciar a adoção da IA sem uma governança clara, sendo que metade da estratégia de IA é a falta de governança em toda a empresa. Isto é muitas vezes agravado pela falta de conhecimentos especializados e por uma compreensão limitada de como os sistemas de IA chegam aos seus resultados. Ao mesmo tempo, a pressão para desenvolver a IA pode rapidamente desviar recursos de testes, monitorização e inspeção.
As consequências de uma gestão de qualidade inadequada são rapidamente sentidas, especialmente quando os sistemas de IA interagem diretamente com os clientes. Além do risco de limitações regulatórias, as organizações muitas vezes enfrentam pipelines insatisfeitos, cortam oportunidades de negócios e reduzem a produtividade quando os resultados gerados pela IA criam mais trabalho do que ganhos de eficiência.
Um foco mais forte na qualidade A valerá a pena
Enquanto as preocupações em torno da confiança, da segurança e da governação permanecerem sem resposta, as empresas terão dificuldade em implementar uma IA escalável e bem-sucedida. De acordo com isto, três quartos dos decisores acreditam que a garantia eficaz da qualidade da IA fará com que as suas organizações experimentem um impacto significativo ou transformacional na confiança dos utilizadores.
As empresas devem elevar a IA a um novo nível de confiança através de uma combinação de ferramentas estratégicas, quadros de governação robustos, experiência em processos e técnicas de know-how. Só através do envolvimento nestes fundamentos é que as organizações de IA podem ser úteis e sustentáveis a longo prazo, ao mesmo tempo que criam a confiança necessária para a sua adoção responsável.
Eu revi e classifiquei o melhor software para pequenas empresas.
Este artigo foi produzido como parte do Perspectiva do TechRadarNosso canal reúne as melhores e mais brilhantes mentes da indústria de tecnologia atual.
As opiniões expressas aqui são de responsabilidade do autor e não necessariamente da TechRadarPro ou Future Plc. Se ajudar, você pode encontrar mais informações aqui: https://www.techradar.com/pro/perspectives-how-to-submit
