A Raspberry Pi Foundation lançou uma nova placa de expansão de IA, AI HAT+ 2, que traz a capacidade de executar modelos generativos de IA localmente no Raspberry Pi 5, com foco na conclusão de tarefas como texto e raciocínio multimodal em dispositivos de ponta. Esta placa de expansão de US$ 130 foi totalmente atualizada com base na geração anterior. Ele possui 8 GB de memória integrada e está equipado com o chip Hailo 10H, que supostamente fornece 40 TOPS de desempenho de computação de IA.
Ao conectar-se ao Raspberry Pi 5, o AI HAT + 2 “descarrega” a maior parte da carga de inferência relacionada à IA da CPU Arm da placa principal e é completada de forma independente pela placa de expansão, permitindo que o host seja mais usado para outras tarefas de computação. Diferente do AI HAT+ anterior, que se concentrava mais no processamento de imagens, a nova geração de produtos pode executar diretamente modelos de IA generativos menores localmente, como Llama 3.2, DeepSeek-R1-Distill e vários modelos da série Qwen devido à adição de memória integrada, e suporta treinamento e ajuste fino de modelos no lado do dispositivo.
Os casos de demonstração mostrados pelo Raspberry Pi incluem: usar o modelo de driver AI HAT+ 2 para gerar descrições de texto de imagens de câmeras e responder perguntas como se há pessoas nas imagens, refletindo seu potencial de aplicação na compreensão de cenas. Outra demonstração mostra o uso do modelo Qwen2 para conseguir tradução de texto do francês para o inglês, destacando suas capacidades no processamento local multilíngue.
No entanto, a julgar pelos testes de terceiros, o posicionamento desta placa de expansão em termos de desempenho e custo-benefício não é isento de controvérsias. Os resultados reais da medição do blogueiro de tecnologia Jeff Geerling mostram que em uma variedade de modelos suportados, o desempenho geral de um Raspberry Pi 5 independente equipado com 8 GB de memória é muitas vezes melhor do que o de uma combinação conectada ao AI HAT+ 2. Ele atribui essa diferença às limitações de consumo de energia: o corpo do Pi 5 pode funcionar com uma potência máxima de cerca de 10 watts, enquanto o AI HAT+ 2 é limitado a uma faixa de consumo de energia de cerca de 3 watts.
Em termos de seleção real, Geerling destacou que os 8 GB de memória adicionais fornecidos pelo AI HAT + 2 não são suficientes para superar a experiência geral de compra direta da versão topo de linha do Pi 5 com 16 GB de memória. Este último pode ter mais vantagens em flexibilidade e velocidade de execução do modelo, portanto o AI HAT+ 2 é mais adequado como uma solução dedicada para cenários específicos, em vez de um caminho de atualização universal para todos os usuários.