Os agentes de IA estão começando a migrar para operações reais, em maior escala. Este desafio muda a iniciativa com outro foco na prontidão organizacional.
As empresas individuais planejam cuidadosamente como o trabalho é atribuído, como as decisões são gerenciadas, como os sistemas são gerenciados e onde está o fator humano, mais como agentes no mundo real.
Vice-presidente de dados e IA da Kyndryl UK&I.
A lacuna entre ambição e preparação é mais difícil. O relatório de preparação da Kyndryl descobriu que 87% dos líderes empresariais esperam que a IA remodele completamente os seus planos de carreira e locais de trabalho. Agora, no entanto, apenas 29% disseram que os funcionários podem usar IA de forma eficaz, enquanto 62% disseram que ainda estão na “fase experimental” com IA.
O sucesso com agentes de IA depende menos da habilidade individual e mais de um a empresa está devidamente posicionada para dirigi-los, orquestrá-los e executá-los.
Isso significa alinhamento entre intenção comercial, direitos de decisão, acesso a dados, controle, design de fluxo de trabalho, governança e supervisão humana. Sem esta base, os agentes lutam para entregar valor de equilíbrio e podem introduzir novos riscos.
Complexidade operacional em uso
É também por isso que vale a pena ser preciso sobre o que se entende por agência de IA e por que cria complexidade operacional na prática. Os sistemas de agentes não são simplesmente IA generativa com um front-end inteligente. São sistemas que podem planejar, executar, coordenar tarefas e coordenar vários níveis de trabalho com participação humana limitada.
Isto torna-os mais capazes, mas também materialmente mais difíceis de governar. Quando a tecnologia pode raciocinar, invocar ferramentas, organizar-se através de sistemas e agir, a questão já não é simplesmente “o que pode fazer”, mas se estamos preparados para operá-la.
Instruções operacionais menores geralmente são baseadas em um conjunto de dados limitado e afetam relativamente poucos sistemas. A simplicidade desaparece na escala. Mais sistemas, mais integrações, mais variação operacional e mais governança exigem pressão adicional. Muitos pilotos não entendem neste ponto, porque a escala da IA força as organizações a se oporem à arquitetura e às organizações de dívida de longo prazo.
Se quisermos que estes sistemas funcionem em ambientes empresariais complexos, também precisamos de parar de cair no debate sobre LLM. O O LLM, entretanto, é apenas um componente em uma arquitetura de sistema de agente muito maior. Projetos empresariais reais dependem de orquestração, ferramentas, contexto, memória, operadores lógicos, contas, permissões, controles de curso, gerenciamento de identidade, observação e propagação do caminho humano para todos os colaboradores.
Se considerarmos a conversa de forma muito restrita, corremos o risco de subestimar os componentes críticos que determinam se um sistema pode operar de forma segura e eficaz na produção.
Para mim, um dos pontos práticos mais importantes é que temos que pensar nos problemas operacionais mais complexos, principalmente nos ambientes de missões críticas, mas na sucessão de implementação de forma inteligente para que possamos nos preparar para o risco à medida que pudermos escalar.
Coloque a escada
Os agentes ampliam as tentativas de pressionar quatro vezes.
A primeira é a filtragem de informações, à medida que informações sensíveis e informais se tornam mais frequentes, reutilizáveis e expostas.
A segunda questão é a integração, porque cada agente adicional aumenta a dependência do inventário, das ferramentas e dos processos operacionais existentes.
A terceira são as tensões operacionais, à medida que o número crescente de partes autônomas interagem entre si, a complexidade dos componentes e o fracasso das missões se multiplicam.
O quarto é o regime de ajuste, onde se analisam modelos projetados para competir estaticamente com o comportamento dinâmico e adaptativo do sistema.
Gerenciar bem isso depende de algumas disciplinas práticas;
Estabeleça limites claros para as frases; determinar o que os agentes estão autorizados a decidir, o que deve ser desocupado e o que deve permanecer firmemente sob controle humano.
Orquestração de design para escala: ambientes multiagentes funcionam com fluxos de trabalho coordenados, um contexto comum e pontos de controle transparentes para evitar atividades, duplicação e falhas de conformidade.
Construir intervenções num modelo de trabalho desde o início; O controle do cuidado não deve ser tratado como uma medida necessária. Deve ser construído através de limites, limites, aprovações e mecanismos de mudança e reversão.
Para atribuir uma conta ao nome da função e aos registros da conta: se uma decisão não puder ser investigada, contestada e defendida, ela não está pronta para produção.
É aqui que o controle deve se aproximar muito mais do tempo de execução. Não basta que uma política seja incluída num documento político, num fórum governamental ou algures em segundo plano. O sistema precisa ser legível por máquina, testável e executável. As licenças precisam ser flexíveis de acordo com o contexto e devem ser integradas desde o início da implantação.
Requisitos operacionais essenciais
Perto deles, telemetria, orquestração, tempo real monitoramento e AIOps são agora requisitos operacionais essenciais. À medida que a IA do agente se torna parte das operações diárias, a telemetria deve ir além dos tempos e das respostas. As organizações agora exigem visibilidade do comportamento, da intenção noturna, dos fluxos de trabalho dos clientes, das tendências de exceção e da adesão à política de código.
Também precisa ser feito antes. Se o sistema for dinâmico, sensível ao contexto e capaz de diferentes rotas, não podemos testá-lo como uma determinada tarefa com uma determinada camada de IA. Não testamos apenas respostas, testamos comportamento.
Isso torna o equilíbrio da liderança difícil, mas ótimo. Muita autonomia sem controle suficiente cria um risco à segurança. Muito controle sem autonomia suficiente retarda a criação de valor. O objetivo não é a liberdade livre ou um bloqueio rígido, mas uma autonomia limitada – a velocidade dos agentes operando com execução clara de ações e controles, construídos com a propagação e desdobramento de estradas.
As parcerias estratégicas também fazem parte da arquitetura subjacente. Nenhuma organização pode gerenciar sozinha a orquestração, a integração, a governança, a plataforma, a interoperabilidade e o redesenho do modelo operacional na velocidade exigida hoje. As empresas mais eficazes precisam de estar alinhadas em torno de um conceito comum de resultados, resiliência e rapidez de criação de valor.
Para ser o advogado mais importante, ele precisa de tempo para se tornar um desenvolvedor. Isso significa reunir as pessoas no início dos ciclos de design, gestão de mercado e planejamento multifuncional. As partes interessadas internas e externas devem estar envolvidas desde o início: engenheiros para validar a pilha, engenheiros para escalá-la e gestores de risco para garantir a conformidade.
Como esse insumo é organizado precocemente, os projetos dos agentes são menos estáveis, no que diz respeito ao progresso tecnológico.
Para desenhar quanto à visão
O potencial dos agentes de IA não será desbloqueado apenas através da experimentação. Entende-se que as organizações preparadas para reestruturar os sistemas ao seu redor – incluindo governança, arquitetura, modelos operacionais e formação de líderes – precisam transformar a autonomia em valor empresarial.
As organizações que definem o ritmo entendem que o valor da escala depende de estarem preparadas para executar operações nativas de IA.
Classificamos as melhores ferramentas de visualização de dados
Este artigo foi produzido como parte do Perspectiva do TechRadarNosso canal reúne as melhores e mais brilhantes mentes da indústria de tecnologia atual.
As opiniões expressas aqui são de responsabilidade do autor e não necessariamente da TechRadarPro ou Future Plc. Se ajudar, você pode encontrar mais informações aqui: https://www.techradar.com/pro/perspectives-how-to-submit
