Terça-feira, Google Anunciar TorchTPU, sua tão esperada versão do PyTorch, agora está disponível como um projeto de código aberto. Com isso, o Google se junta à Amazon na tentativa de quebrar o domínio da Nvidia na indústria de IA, com a maioria dos aplicativos de IA escritos para rodar em chips ou GPUs da Nvidia por padrão.
PyTorch é um popular kit de ferramentas de código aberto usado por desenvolvedores de aplicativos de IA e startups para construir, treinar e executar modelos de IA. Segundo as estatísticas, 85% dos aplicativos de inteligência artificial o utilizam. PyTorch foi originalmente desenvolvido pela Meta (então Facebook) em 2016, muito antes de o mundo perceber que um LL.M. mudaria o mundo. Na época, as GPUs da Nvidia haviam se tornado o hardware padrão para pesquisas de inteligência artificial, então muitos dos recursos do PyTorch foram construídos especificamente para funcionar com elas. Em 2022, a Meta entregará o PyTorch à Linux Foundation, uma organização sem fins lucrativos que gerencia muitos projetos importantes de código aberto.
A versão do TorchTPU do Google permite que aplicativos de IA sejam executados em chips de IA do Google, chamados de unidades de processamento tensor (TPUs). Também facilita a migração de aplicativos PyTorch existentes para TPU e, portanto, para Google Cloud. Os desenvolvedores podem fazer isso alterando configurações simples sem precisar reescrever o aplicativo.
A Amazon fez um anúncio semelhante na segunda-feira, lançando sua própria versão do PyTorch chamada TorchNeuron. O TorchNeuron permite que aplicativos de inteligência artificial sejam portados para os chips de inteligência artificial desenvolvidos pela própria Amazon, Trainium e AWS, sem reescrever. A Amazon também disse que trabalharia ainda mais para afrouxar o controle da Nvidia sobre o PyTorch. Ele está enviando código para o projeto principal PyTorch, que separa vários recursos dos chips Nvidia, tornando-os mais abertos a qualquer hardware por padrão.
No entanto, o Google pode estar ultrapassando a Amazon em alguns aspectos. Ela afirma que trabalha diretamente com empresas como Meta, Hugging Face, Inferact (fabricante do vLLM) e RadixArk (criador do SGLang) para garantir que os recursos e a base de código do TorchTPU funcionem bem com essas ferramentas populares de desenvolvimento de IA, assim como o PyTorch original.
Além disso, o gigante das buscas também lançou ferramentas especiais para Kit de Agente TPUajudando os desenvolvedores a migrar seus aplicativos para o silício e a nuvem do Google, corrigindo bugs no processo. Ela até atualizou sua popular ferramenta LiteRT, que executa IA em telefones, laptops e dispositivos incorporados, para funcionar melhor com aplicativos PyTorch AI.
Isso não significa que os desenvolvedores de aplicativos de IA abandonarão automaticamente o hardware da Nvidia, apenas porque agora podem migrar facilmente para chips alternativos e para a nuvem. Mas a Amazon e o Google estão claramente trabalhando para acabar com a vantagem da Nvidia.
Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
