[EDITION ABONNES] Il y a tout juste un an, Nvidia dévoilait sous le nom d’EGX Edge AI une plate-forme générique permettant d’exécuter des algorithmes d’intelligence artificielle (IA) à faible latence en périphérie de réseau (edge), au plus près des sources de données. ...Nvidia ajoute aujourd’hui deux produits haut de gamme destinés à la mise en œuvre de cette plate-forme qui cible des secteurs aussi divers que le commerce de détail, la santé, la production industrielle, les transports et la ville intelligente.

Si l’EGX A100 s’adresse aux serveurs professionnels sur étagère capables notamment de gérer des centaines de caméras disséminées dans des aéroports, l’EGX Jetson Xavier NX plus compact - et déjà évoqué par Nvidia fin 2019 - intéresse les microserveurs sécurisés de périphérie de réseau s’accommodant d’une poignée de caméras réparties dans l’épicerie du coin, par exemple. « La plate-forme EGX Edge AI transforme un serveur standard en un minicentre de données IA sécurisé de type cloud, assure Jensen Huang, le fondateur et CEO de Nvidia. Grâce à nos frameworks applicatifs IA, les entreprises peuvent créer des services IA allant des boutiques connectées aux usines robotisées en passant par les centres d'appels automatisés. »

Selon la société américaine, le module EGX Jetson Xavier NX (photo ci-contre), dont les dimensions sont de seulement 70 x 45 mm, est le supercalculateur le plus petit et le plus puissant au monde pour les microserveurs et les boîtiers AIoT de périphérie de réseau. Il intègre la puissance d’une puce-système Xavier de Nvidia sur un module de la taille d’une carte de crédit (identique en fait à celle du Jetson Nano, lancé en mars 2019). Le SoC Xavier sélectionné embarque un bloc personnalisé de six cœurs de processeurs généralistes 64 bits Carmel à architecture Arm v8.2, une unité de traitement graphique (GPU) à 364 cœurs bâtie sur l’architecture Volta, deux accélérateurs d'algorithmes d’apprentissage profond (NVDLA), un accélérateur de vision artificielle VLIW et des encodeurs/décodeurs vidéo 4K.

Doté d’un connecteur Sodimm à 260 broches, le module EGX Jetson Xavier NX, qui fournit une puissance de 21 Tops (téraopérations par seconde) dans une enveloppe thermique de 15 W (14 Tops à 10 W) exécute la pile logicielle « cloud native » EGX et peut traiter rapidement les données en streaming issues de plusieurs capteurs haute résolution, précise Nvidia. On notera que la société a ajouté à son offre un kit de développement qui donne accès, via une carte porteuse de 103 x 90,5 mm et des connecteurs ad hoc, à de nombreuses interfaces du module EGX Jetson Xavier NX : 4x USB 3.1, USB 2.0 Micro-B, HDMI et DisplayPort, Gigabit Ethernet, M.2 Key E (Wi-Fi/BT inclus), M.2 Key M (NVMe), 2x Mipi CSI-2, GPIO, I2C, I2S, SPI, UART, etc.

L’EGX A100, quant à lui (photo ci-contre), est le premier produit IA de périphérie de réseau qui repose sur l’architecture de processeur graphique Ampere, lancée parallèlement par Nvidia (*). La carte combine les performances de cette dernière aux fonctions de sécurité critique et d’accélération réseau de la puce d’interface intelligente SmartNIC ConnectX-6 Dx de Mellanox (une société acquise officiellement par Nvidia il y a quelques semaines).

Selon Nvidia, cette association permet à l’EGX A100 de recevoir des flux de données à des débits jusqu’à 200 Gbit/s et de les envoyer directement dans la mémoire du GPU pour les traitements du signal IA ou 5G. Dans ce cadre, l’architecture cloud native de la plate-forme EGX Edge AI permet l’exécution de logiciels conteneurisés et de charges de travail diverses et variées accélérées par le GPU, Nvidia proposant des frameworks applicatifs pour la santé (Clara), les opérateurs télécoms (Aerial), l’IA conversationnelle (Jarvis), la robotique (Isaac), la ville intelligente (Metropolis), etc. Ceux-ci peuvent être utilisés ensemble ou individuellement en fonction des cas d’usage ciblés en périphérie de réseau.

A noter que l’EGX A100 sera commercialisé vers la fin de l’année et qu’un certain nombre de microserveurs reposant sur le module EGX Jetson Xavier NX et prêts au déploiement sont déjà disponibles auprès de constructeurs comme Aaeon, Aetina, Advantech, Auvidea, AVerMedia, Axiomtek, Connect Tech, Diamond Systems, Leopard Imaging, Leetop, MiiVii ou Realtimes.

(*) Ampere représente la 8e architecture de processeur graphique de Nvidia. Elle affiche une performance globale six fois plus importante que la précédente génération Volta au niveau de l’apprentissage et sept fois plus importante au niveau de l’inférence. L’A100, le premier GPU bâti sur l’architecture Ampere, contient plus de 54 milliards de transistors, ce qui en ferait le plus gros processeur gravé en technologie 7 nm à l’heure actuelle.   Vous pouvez aussi suivre nos actualités sur la vitrine LinkedIN de L'Embarqué consacrée à l’intelligence artificielle dans l’embarqué : Embedded-IA