Raspberry Pi está lançando uma nova placa complementar que permite executar modelos generativos de IA localmente no Raspberry Pi 5. Anunciado na quinta-feira, $ 130 AI HAT + 2 é uma versão atualizada e mais cara do módulo lançado no ano passadooferecendo atualmente o chip Hailo 10H com 8 GB de RAM e 40 TOPS de desempenho de IA.
Uma vez conectado, o Raspberry Pi 5 usa AI HAT+ 2 para lidar com cargas de trabalho relacionadas à IA enquanto libera a CPU Arm da placa-mãe para realizar outras tarefas. Ao contrário do AI HAT+ anterior, que se concentrava no processamento de IA baseado em imagem, o AI HAT+ 2 possui RAM integrada e pode executar modelos de IA de pequena geração, como Llama 3.2 e DeepSeek-R1-Distill, bem como um conjunto de modelos Qwen. Você também pode usar este dispositivo para treinar e ajustar seus modelos de IA.
um Demonstração compartilhada por Raspberry Pi Ele mostra como uma placa complementar pode ser usada para alimentar um modelo de IA que pode gerar descrições baseadas em texto de fluxos de câmera e responder a perguntas sobre se há pessoas na cena. O outro mostra como você age Pode traduzir texto Do francês ao inglês com Qwen2.
No entanto, YouTubers de tecnologia Encontrado por Jeff Gearing Um Raspberry Pi 5 autônomo com 8 GB de RAM geralmente teve melhor desempenho do que o AI HAT+ 2 nos modelos suportados. Geerling acredita que a queda de desempenho está relacionada ao consumo de energia, já que o Pi 5 pode rodar com até 10 watts, enquanto o AI HAT+ 2 é limitado a 3 W.
Embora o AI HAT + 2 possa ser ideal para certos casos de uso, os 8 GB de RAM adicionais da placa complementar “não são suficientes para dar a este HAT uma vantagem em relação a apenas pagar por um Pi maior de 16 GB com mais RAM, que é mais flexível e pode executar modelos mais rapidamente”, disse Geerling. AI HAT+, lançado no ano passado, também oferece processamento de imagens de IA a um preço inicial de menos de US$ 70.
Raspberry Pi diz que mais modelos de IA de “maior escala” “estão prontos para atualização e devem estar disponíveis para instalação logo após o lançamento”.
