La société japonaise EdgeCortix annonce la disponibilité de son module au format M.2 destiné à l’accélération d’algorithmes d’intelligence artificielle (IA) réalisée sur son circuit Sakura-II pour la plateforme ouverte Raspberry Pi 5. Avec cette possibilité proposée aux développeurs, EdgeCortix poursuit ainsi son ambition de démocratiser la mise en oeuvre d’applications d’IA générative en temps réel dans des systèmes embarqués en périphérie de réseau (edge).

Désormais, le module Sakura-II M.2 permet aux concepteurs d'exécuter des modèles d'apprentissage profond directement sur des plateformes compactes et abordables comme la carte Raspberry Pi 5, avec à son bord le processeur BCM2712 de Broadcom cadencé à 2,4 GHz doté de quatre cœurs Arm Cortex-A76 avec une double sortie HDMI, un port Gigabit Ethernet et un module sans fil offrant une connectivité Wi-Fi et Bluetooth. Et ce sans avoir à recourir à une infrastructure dans le cloud.

Cette intégration sur une carte compatibles avec les architectures Arm autorise l'exécution directe des dernières technologies d'IA générative directement sur la plate-forme avec une latence et une consommation énergétique minimales, et ce y compris pour des modèles d'IA avancés tels que les transformateurs de vision, les modèles de langage réduits et les modèles de langage de vision (VLM).

Au-delà, la puce Sakura-II installée sur une carte Raspberry Pi offre, selon EdgeCortix, une IA performante à un coût très inférieur aux produits traditionnels, réduisant ainsi les besoins en infrastructure et permettant une évolutivité rentable.

Optimisé pour les processeurs à coeur Arm, le module permet également un déchargement transparent des charges de travail de l’IA supportés par les coeurs Arm, procurant, toujours son EdgeCortix, un équilibre optimal entre performances et efficacité.

Grâce à cette approche, les développeurs peuvent ainsi rapidement passer de la phase de prototypage à la pahse de production pour des applications dans les domaines des drones, de la robotique, de l'agriculture intelligente et de la sécurité, là où les contraintes de taille, de poids, de puissance et de coût exigent une intelligence embarquée adaptée.

Pour rappel, créé en 2019 et basé au Japon, EdgeCortix, a développé une architecture de traitement d’IA hautes performances, éco-efficace et à très faible latence pour les systèmes en périphérie de réseau (edge). Cette puce d’accélération baptisée Sakura-II, associée à l'architecture DNA (Dynamic Neural Accelerator) de la société, est conçue pour s'attaquer aux tâches d'IA générative pour des applications industrielles embarquées. L’objectif affiché est de permettre aux concepteurs de gérer les grands modèles de langage (LLM, Large Language Model), les grands modèles de vision (LVM, Large Vision Model) et les applications multimodales reposant sur des transformeurs (ou modèles auto-adaptatifs), même dans des environnements contraints.

Pour rappel également, le module au format M.2 (22 sur 80 mm) d’EdgeCortix intègre 16 Go de mémoire Sdram LPDDR4, une capacité de calcul jusqu’à 60 Tops et une consommation limitée à 10 W.

« L'intégration de notre technologie d'accélération de l'IA basse consommation à destination des utilisateurs des la plate-forme Raspberry Pi 5 ouvre la voie aux innovateurs pour créer rapidement des appareils et des systèmes d'IA en périphérie de réseau plus intelligents, plus rapides et plus performants, estime Sakyasingha Dasgupta, le fondateur et PDG d'EdgeCortix. L'association du Raspberry Pi 5 avec module M.2 SAKURA-II procure ainsi une plate-forme performante et évolutive pour l'IA générative en temps réel dans l’edge. »

A noter enfin que le module Sakura II M.2 est aussi disponible et utilisable sur la plate-forme de la firme taïwanaise Aetina avec à son bord le processeur RK3588 du chinois Rockchip avec ses huit coeurs Arm 64-bit (quatre coeurs Cortex-A76 et quatre coeurs Cortex-A55) flanqués d’un processeur neuronal pour les opérations d’encodage/décodage vidéo.