En un emocionante avance para la comunidad tecnológica, la empresa Raspberry ha revelado un innovador módulo diseñado para el Raspberry Pi 5, que incorpora capacidades de inteligencia artificial generativa. Este nuevo componente promete un impresionante rendimiento de inferencia de 40 TOPS, permitiendo a los usuarios ejecutar modelos de IA de forma local.

El nuevo módulo, denominado AI HAT+ 2, responde a la creciente demanda de aplicaciones de IA generativa y está equipado con un potente acelerador de red neuronal conocido como Hailo-10H. Este avance supera al módulo previo, AI HAT+, que contaba con opciones más limitadas utilizando los aceleradores Hailo-8 de 26 TOPS y Hailo-8L de 13 TOPS, orientados principalmente al desarrollo de aplicaciones de visión artificial.

AI HAT+ 2 está especialmente diseñado para manejar tareas de IA generativa, facilitando la implementación de modelos sofisticados como DeepSeek-R1-Distill, Llama3.2, Qwen2.5-Coder, Qwen2.5-Instruct y Qwen2, todos ellos con un rango de entre 1.000 millones y 1.500 millones de parámetros. Según informes de la compañía, se anticipa que se lanzarán más modelos en el futuro.

Una de las mejoras significativas que trae AI HAT+ 2 es la inclusión de 8GB de RAM, lo que permite al acelerador manejar los modelos de IA de manera más eficiente y ágil. Además, al permitir la ejecución de datos de forma local, este módulo asegura la privacidad y la protección de la información, un aspecto cada vez más vital en el entorno digital actual.

Compatible únicamente con el Raspberry Pi 5, el AI HAT+ 2 ya está disponible para su compra a un precio de 130 dólares, marcando un hito en la evolución de la tecnología de IA accesible a un público amplio.