[EDITION ABONNES] Fondée en 2017, la société israélienne Hailo, qui a développé sous le nom de Hailo-8 un processeur pour apprentissage profond (deep learning) en périphérie de réseau (et non dans le cloud), a mis sur le marché deux modules d’accélération IA bâtis sur sa puce, aux formats M.2 et Mini PCIe respectivement. ...Ces modules peuvent être intégrés tels quels dans une variété de produits edge (passerelles, miniserveurs, box, etc.) commercialisés sur des marchés comme la ville intelligente, les magasins de détail connectés, l’industrie 4.0, les maisons intelligentes, etc. L’idée étant d’accélérer les temps de mise sur le marché grâce des modules d’accélération d’applications dotées d’apprentissage automatique présentés dans des formats standard.

Selon Hailo, ces modules s’utilisent sans problème avec des frameworks IA populaires comme TensorFlow et ONNX qui sont tous deux pris en charge par le compilateur en flot de données (Dataflow Compiler) de la start-up. Permettant ainsi aux utilisateurs de porter rapidement leurs réseaux de neurones sur le processeur Hailo-8.

Pour rappel, l’architecture innovante du processeur Hailo-8, qui repose sur les propriétés fondamentales des réseaux de neurones, est censée permettre à des équipements de type edge d’exécuter des applications sophistiquées de deep learning qu'il était jusqu’alors impossible de faire tourner ailleurs que dans le cloud. Bâtie sur une architecture en flot de données définie par des structures, la puce affiche une performance de 26 téraopérations par seconde (Tops) qui serait supérieure à celles des autres processeurs edge tout en offrant des dimensions nettement plus compactes (sa taille est inférieure à celle d’un cent, mémoire comprise) et une éco-efficacité grandement supérieure (3 Tops/W).

En nombre d’images traitées par seconde (FPS, Frames Per Second) et ce dans le cadre de plusieurs bancs d’essai de réseaux de neurones, les modules IA de Hailo afficheraient en moyenne, un taux FPS 26 fois supérieur à celui des modules architecturés autour de la puce Movidius Myriad X d’Intel et 13 fois plus élevé que celui des modules bâtis sur le circuit Edge TPU de Google (voir illustration ci-dessous).

Si l’on en croit la société israélienne, le module M.2 Hailo-8 (photo ci-dessus) a été retenu pour la prochaine génération de boîtiers pour périphérie de réseau BOXiedge de Foxconn, ce dernier n’ayant pas eu besoin pour ce faire de concevoir un nouveau circuit imprimé (PCB) (lire aussi notre article ici).

Selon Foxconn, la génération à venir de la solution de traitement IA BOXiedge sera équipée d'applications adaptées aux besoins de marchés qui exigent faible latence, débit de données élevé, grande fiabilité et un traitement rapide en périphérie de réseau. Les points de vente connectés et les villes intelligentes, notamment, imposent l‘installation de centaines de caméras surveillant l’intérieur des magasins ou la circulation routière qui génèrent des flux vidéo qui doivent être traités localement, rapidement et efficacement avec une latence minimale. De même, pour l'IoT industriel, où chaque fraction de seconde compte, l'acquisition, le traitement, l'inférence et la visualisation de données directement sur les lignes de production plutôt que dans le cloud se traduisent par des baisses de coût significatives et une efficacité accrue pour le traitement de tâches telles que l'inspection et l'assurance qualité, indique Foxconn.

Rappelons que, depuis sa création, Hailo a levé 88 millions de dollars (lire notre article ici).

Vous pouvez aussi suivre nos actualités sur la vitrine LinkedIN de L'Embarqué consacrée à l’intelligence artificielle dans l’embarqué : Embedded-IA