Um caso de negócios sempre começa com o poder nas instalações.
Como convidado, mantenha as informações em seu ambiente, evite ficar preso a um fornecedor. É um instinto razoável e há muito tempo é uma resposta razoável.
A lacuna entre o que você poderia executar internamente e o que estava disponível externamente era administrável. As instalações locais eram uma escolha defensável.
Arquiteto Chefe e Diretor de Inovação, Duco.
O cenário do tipo “construa você mesmo” ignora quase tudo o que se segue: as pessoas necessárias para manter coisas atuais, como modelos de desenvolvimento de IA, taxas de licença e custos de computação agravados à medida que o cenário muda, e ciclos de atualização que nunca chegam dentro do prazo, e a necessidade de desfazer decisões em relação a um cenário tecnológico que parecia completamente diferente há seis meses.
Nenhum desses custos está oculto. É fácil ignorar quando o negócio inicial é ganhar dinheiro.
Você pode executar IA no local – mas não a melhor IA
Modelos limitados – aqueles que recebem mais manchetes – não podem ser auto-hospedados. Seus provedores não oferecem implantação privada imediata.
O que você pode licenciar e executar dentro dele melhora constantemente, mas esse é o limite. Solas antrópicas foram lançadas para mais de uma dúzia de exemplares de Claudius em menos de dois anos e estão longe de ser o único fornecedor.
Auto-hospedagem significa ciclos de lançamento lentos. As atualizações são caras e perturbadoras, por isso as empresas permanecem nas versões por mais tempo do que deveriam. O mesmo pode ser dito sobre o hardware por baixo.
Os chips especiais de IA estão se tornando obsoletos rapidamente. Novas gerações de GPU chegam a cada dois anos, cada uma significativamente melhor que a anterior e cada uma exigindo um novo investimento de capital. Seu modelo está nos bastidores, funcionando nos bastidores, e qualquer atualização é um projeto importante.
Em talento exaustivo
Para construir e executar ferramentas de IA no local, você precisa de engenheiros que não trabalhem em sua empresa. Eles devem ser realizados com IA. Ferramentas de ajustes para desenvolvimento de modelos. Fermento quando eles quebram. Gestão de infraestrutura. Avaliar lançamentos de novos modelos quando eles forem lançados.
Quando se trata de processamento e reconciliação, estes são requisitos, mas não diferenças. Eles precisam ser trabalhados, mas gastar muito tempo com eles não lhe dará vantagem. Salvar algo que não é da sua conta sai caro.
À medida que o ambiente interno se expande e a tecnologia envelhece, aumenta a necessidade de gerir o ecossistema. São especialistas caros e a maioria deles não impulsiona o negócio.
Por que a IA é relevante em um mundo baseado na nuvem?
O argumento para a IA nativa da nuvem não é realmente sobre isso computação em nuvem É se sua arquitetura consegue acompanhar a tecnologia que se move mais rápido do que qualquer ciclo de lançamento interno consegue acompanhar.
Em um mundo nativo da nuvem, novas formas de modelagem chegam como recursos, não como projetos. Quando algo melhor aparece no horizonte, a plataforma está concebida. Não reiniciei a reunião em conformidade. A revisão de segurança não retorna a zero. A equipe de engenharia não precisa consertar nada. Você pode usar as instalações e suas atividades no mesmo dia.
O argumento regulatório que levou a empresa ao local em primeiro lugar ainda é importante – mas não está mais em conflito com as implantações nativas da nuvem. Permissões, trilhas de auditoria, governança, governança de dados: tudo pode ser aplicado com a mesma rigidez em uma plataforma nativa da nuvem devidamente arquitetada, e muitas vezes com mais rigidez. O negócio avançou. O controle não requer mais ficar em pé.
Mesmo aqueles que reconhecem isso começam cedo. Seus engenheiros se concentram no que torna o negócio diferente. Partes de suas operações tornam as ferramentas melhores em qualquer direção, sem gerenciar o ciclo. A questão de “seremos detidos?” alguém para de olhar.
O que muda ao trabalhar com um parceiro confiável
Transferir a responsabilidade de construção, manutenção, segurança e testes para um parceiro especializado significa onde seus recursos estão concentrados e sua capacidade de evoluir com o mercado.
Plataformas de infraestrutura como o AWS Bedrock são projetadas para acomodar novos modelos de recursos à medida que surgem, até mesmo modelos limitados que não podem ser completamente independentes. A arquitetura subjacente torna isso um passo para que os usuários corporativos não precisem fazer isso.
À medida que um modelo melhor fica disponível, a plataforma se adapta. Nenhum novo projeto, nenhum engenheiro adicional, nenhum mês de desenvolvimento de trabalho de integração. As partes se concentram no que estão fazendo lá.
Os engenheiros se concentram nas coisas que tornam a empresa diferente. E a pergunta “estamos executando o modelo certo?” acaba na discussão do comitê trimestral de investimentos e passa a ser o cenário que alguém vira.
Use o melhor armazenamento em nuvem empresarial para gerenciar dados.
Este artigo foi produzido como parte do Perspectiva do TechRadarNosso canal reúne as melhores e mais brilhantes mentes da indústria de tecnologia atual.
As opiniões expressas aqui são de responsabilidade do autor e não necessariamente da TechRadarPro ou Future Plc. Se ajudar, você pode encontrar mais informações aqui: https://www.techradar.com/pro/perspectives-how-to-submit
