- A CPU AGI da Arm quase dobra o desempenho de nível de rack modelado da AMD em sete cargas de trabalho
- Com base nas premissas da avaliação, um rack de 24 kW pode acomodar até 23 servidores Arm
- Sob a carga de trabalho pessoal mais forte, a vantagem de nível de rack da Arm chega a 3,19 vezes
A CPU AGI da Arm registrou quase o dobro do desempenho modelado em nível de rack do AMD EPYC 9755 em sete cargas de trabalho projetadas para avaliar a inteligência artificial do agente.
Avaliado por Sinal 65 Em colaboração com a Arm, os resultados medidos do processador foram comparados e, em seguida, foi estimado o desempenho de racks individuais operando dentro de um orçamento de energia fixo.
As descobertas baseiam-se em parte na modelagem baseada em energia, enquanto os testes no hardware de produção final ainda estão pendentes.
Último vídeo deRadar Tecnológico
A densidade do rack dá ao Arm uma enorme vantagem
A avaliação examinou cargas de trabalho envolvendo ferramentas de software, execução autônoma de tarefas, recuperação de informações e suporte de serviço de modelo de inteligência artificial, incluindo Terminal-Bench 2 e SWE-bench.
Através destes sete testes, Arm’s A taxa média de desempenho deste processador é de 1,99x, com resultados individuais variando de 1,43x a 3,19x em comparação com o AMD EPYC 9755.
A vantagem da modelagem vem em parte das diferenças no consumo de energia do servidor, permitindo que mais sistemas Arm sejam instalados na mesma distribuição de energia.
Um rack de 24 kW pode acomodar de 21 a 23 servidores CPU AGI, e um sistema EPYC 9755 de soquete duplo pode acomodar 13.
Esta configuração fornece Arm 5.712 a 5.888 núcleos físicos e AMD 3.328, embora a comparação dependa de suposições de classificação de potência.
Os sistemas Arm têm uma faixa de potência de servidor único de 950 a 1.050 watts, enquanto a configuração de soquete duplo da AMD é avaliada em 1.700 watts.
Em todas as categorias de carga de trabalho, a Arm registrou uma média de 1,7x benefícios em nível de rack para ferramentas de modelagem, 2,0x para fluxos de trabalho de agentes e 2,2x para inferência e planejamento.
O relatório também estima que, para cargas de trabalho de processamento equivalentes, as operações de pesquisa de vetores e bancos de dados podem exigir de 30 a 35% menos racks.
Criação mais rápida de sandbox e desafios x86
Um teste separado comparando o processador Arm com o EPYC 9965 da AMD foi realizado usando Sandbench, que mede o tempo necessário para estabelecer um ambiente de execução isolado.
O braço concluiu partidas a frio 45% mais rápidas, partidas a quente 27% mais rápidas e, no pior cenário, com quatro vezes mais assinaturas, 41% mais rápido.
Essas melhorias são importantes porque os agentes de IA geralmente criam ambientes de execução quando acessam serviços, executam códigos e processam informações.
Configurações mais rápidas reduzem a latência, embora os resultados não comprovem o mesmo ganho ou ganho total para todas as aplicações Implantação de data center.
“A indústria precisa medir quão bem os sistemas lidam com o trabalho realmente realizado pelos agentes”, disse Mohamed Awad, vice-presidente executivo de Cloud AI at Arm, descrevendo a necessidade de avaliações de desempenho específicas de cargas de trabalho.
A empresa desenvolveu a estrutura de avaliação com o apoio da Fujitsu, Meta e OpenAI, enquanto a Signal65 verificou de forma independente os resultados relatados do processador.
Arm também reconheceu que mais testes dos sistemas de produção finais cobrirão cargas de trabalho adicionais e comparações competitivas.
Para AMD e Intel, as descobertas sugerem que os servidores baseados em Arm podem desafiar a infraestrutura x86 em implantações de IA de agentes, onde as restrições de energia do rack limitam as capacidades de computação.
Um desempenho mais alto em nível de rack permite que as operadoras acomodem mais cargas de trabalho de IA dentro das alocações de energia existentes.
No entanto, o benchmark não prova que o Arm superará o x86 na computação de uso geral, nem justifica a substituição de servidores existentes em um data center inteiro.
A compatibilidade do software, os custos de implantação e as condições operacionais reais influenciarão se os benefícios da modelagem se traduzirão em uma adoção mais ampla.
Siga o TechRadar no Google Notícias e Adicione-nos como sua fonte preferida Receba notícias, análises e opiniões de nossos especialistas em seu feed.
