A inteligência artificial parece estar a permitir que um ecossistema empresarial cada vez mais interligado possa gerir a complexidade das tecnologias ao longo das suas operações. À medida que a IA se torna mais profundamente integrada em tarefas críticas, o apoio à visibilidade dos sistemas dos clientes parece estar a emergir como uma consideração significativa de liderança. De acordo com se Estudo de controle de IA91% dos executivos entrevistados afirmaram não compreender totalmente a dependência da IA das suas organizações. Enquanto isso, os entrevistados também relataram uma média de seis distrações relacionadas à IA nos dois anos anteriores. Em conjunto, estas conclusões sugerem que as práticas de governação precisam de estar ao lado do próprio desenvolvimento da IA.
Jeffrey Rachlin e seu parceiro Andy Hyman Um padrão semelhante foi observado em todo o complexo. Na sua experiência, muitas organizações continuam a investigar falhas depois de já ter ocorrido uma perturbação visível. À medida que os sistemas de IA assumem maior autonomia sobre os processos empresariais, a análise retrospetiva só pode oferecer parte da imagem, a capacidade de considerar uma abordagem de gestão que identifique mudanças significativas enquanto a intervenção continua a ser possível.
Jeffrey Rachlin
Esta perspectiva representa uma mudança mais ampla na forma como os grupos podem pensar sobre a saúde operacional. Freqüentemente, ele relata os resultados por meio de um painel e destaca os principais indicadores de desempenho. A dupla enfatiza que essas ferramentas continuam valiosas, mas normalmente descrevem os resultados do sistema em vez das relações dentro do sistema que geraram esses resultados.
Quando as métricas de desempenho indicam preocupação, as condições que contribuem para esse resultado já estão a desenvolver-se há algum tempo. Hyman e Rachlin acreditam que as organizações podem ser ajudadas a monitorizar o desempenho operacional prestando mais atenção ao comportamento do sistema, aos padrões comerciais e ao desenvolvimento de clientes que influenciam a resiliência muito antes de surgirem perturbações visíveis.
Tecnologia da UE
As últimas notícias sobre o cenário tecnológico da UE, uma história sobre os sábios do autor Boris e alguma arte questionável de IA. É grátis, toda semana, na sua caixa de entrada. Cadastre-se agora!
Rachlin explica: “A resiliência começa a falhar antes que a perturbação se manifeste. As organizações muitas vezes fortalecem o seu futuro quando desenvolvem a capacidade de compreender como os seus sistemas estão a mudar, enquanto essas mudanças ainda são geríveis.“
Essa filosofia é semelhante ao sistema Margin of System Drift (MPOSD) de Hyman, que explora se padrões específicos podem sinalizar que os regimes de visibilidade se tornam menos certos antes que as operações consequentes apareçam. Em vez de tentar prever qualquer evento futuro, o quadro visa identificar sinais estruturais que indiquem quando um sistema se está a tornar cada vez mais difícil de avaliar de forma independente.
Rachlin e Hyman identificaram cinco indicadores frequentes que apareceram simultaneamente em múltiplas missões de sistema. A primeira, degradação da verificação de integridade, refere-se a situações em que as saídas do sistema evoluem mais rapidamente do que os processos de verificação independentes. A propagação de substituição de proxy ocorre quando configurações, revisões ou índices operacionais não conseguem mais fornecer uma representação precisa da atividade do sistema.
Andy Hyman
O desalinhamento à prova de estímulos descreve circunstâncias nas quais um sistema limitou a estrutura de estímulos para revelar sua inteligência. A inflação da latência e a distorção de opiniões surgem à medida que os atrasos entre a acção e a visibilidade se tornam cada vez mais significativos nas decisões. Finalmente, a erosão da independência governamental é exacerbada quando os mecanismos de supervisão dependem dos mesmos sistemas para os avaliar.
De acordo com duas observações, estes sinais tornam-se mais significativos quando convergem em vez de aparecerem separadamente. Hyman diz: “Sistemas complexos e difíceis raramente são controlados num único momento. O governo muda, quando a visibilidade independente começa a diminuir, e o reconhecimento de que a transição pode criar oportunidades poderosas para uma tomada de decisão informada.“
A importância da visibilidade independente foi facilitada pelos recentes incidentes de IA, de acordo com Rachlin. Em uma razãoo agente de codificação independente excluiu os dados de produção e fez backup deles segundos depois de operar fora dos limites pretendidos. Hyman e Rachlin sugeriram que a aplicação retrospectiva do MPOSD mostrou indicadores observáveis antes da fase de acompanhamento irreversível. Embora a análise retrospectiva não possa estabelecer resultados futuros, dois estudos de caso ilustram como a identificação precoce de mudanças estruturais poderia expandir a capacidade de tomada de decisões da gestão antes que ocorram perturbações.
Essa perspectiva visa incentivar os líderes a repensar a forma como a saúde organizacional é avaliada. Os painéis e os KPI continuam a ser componentes importantes da supervisão executiva, mas os ecossistemas de IA cada vez mais interligados também podem beneficiar da monitorização das relações dos sistemas conectados. Uma avaliação independente do sistema de saúde, vista separadamente dos sistemas em avaliação, pode fornecer um contexto adicional que ajuda a informar as decisões operacionais à medida que a complexidade continua a aumentar.
Raquel diz: “É provável que a IA aumente a sua presença em ambientes empresariais, abrindo novas possibilidades e ao mesmo tempo levantando novas questões sobre como as organizações gerem e orientam a sua utilização. Podem oferecer fortes capacidades técnicas, mas a capacidade de uma empresa permanecer firme também pode ser fundamental na identificação precoce de mudanças, antes que se transformem em desafios operacionais maiores.“
Como sugere o trabalho de Hyman e Rachlin, a inteligência sistémica proativa pode complementar as abordagens de gestão tradicionais que apoiam decisões de líderes mais informadas. As organizações que continuam a melhorar a sua capacidade de reconhecer os primeiros sinais e, ao mesmo tempo, responder cuidadosamente aos resultados visíveis podem ajudar a definir o próximo capítulo da inovação com maior confiança e resiliência.
