Nvidia veut démocratiser l’accès à ses modules Jetson avec des modèles compacts pour l'IA en périphérie de réseau et la robotique

Le fournisseur de semi conducteurs américain Nvidia a lancé cet été les modules Jetson T2000 et T3000, des options “grand public” plus compactes et plus abordables que les modules Jetson T4000 et T5000 introduits l'année dernière pour les applications d'IA en périphérie de réseau (Edge AI) et de robotique.

Concrètement le Jetson Thor T3000 et sa version industrielle l’ IGX Thor T3000 qui intègre notamment des fonctionnalités de sécurité fonctionnelle ainsi que la prise en charge du cadre de sécurité “Halos for Robotics” de Nvidia, procurent tous deux une puissance de calcul IA allant jusqu'à 865 TFLOPS.

Ils sont équipés du processeur graphique (GPU) Blackwell de Nvidia à 1 536 cœurs, d'un coeur de processeur (CPU) Arm Neoverse à huit cœurs, de 32 Go de mémoire LPDDR5X - avec une bande passante de 273 Go/s - et d'une connectivité Ethernet à 25 Gigabit.

Selon Nvidia, le Jetson T3000 est conçu pour offrir des performances d'inférence comparables à celles du T5000 pour les charges de travail d'IA multimodale - incluant les grands modèles de langage (LLM), les modèles de vision-langage et les modèles intitulés “world foundation models” - le tout en réduisant les besoins en mémoire et le coût global du système.

Le Jetson Thor T2000 offre quant à lui jusqu'à 400 TFLOPS de performances IA, dispose d'un GPU Blackwell à 1 024 cœurs, de 16 Go de mémoire LPDDR5 - avec une bande passante de 137 Go/s ) et d'une connectivité Ethernet à 10 Gigabit.

Ces deux nouveaux modules correspondent à environ la moitié de la taille des modèles Jetson T4000/T5000, 50 sur 87 mm contre 100 sur 87 mm.

Côté consommation Nvidia annonce de 20 à 65 W pour ces nouveaux modules contre 40 à 130 W pour les Jetson 4000 et 5000.

Selon Nvidia, passer au Jeston T3000 peut permettre de réduire les coûts - dans un contexte de prix élevés de la mémoire - sans affecter de manière significative les performances.

De fait, Nvidia dispose désormais d'une gamme évolutive pour les applications d'IA en périphérie et de robotique, allant du Jetson Orin Nano (70 TOPS) au Jetson T5000 (2070 TOPS).

Côté développement, bien que Nvidia n’annonce aucun kit de développement spécifique pour les Jetson Thor T2000/T3000, les développeurs pourront utiliser le kit de développement Jetson AGX Thor pour émuler les performances des modules T3000 et T2000.

La disponibilité des deux modules est prévue pour le premier trimestre 2027.

Parallèlement, Nvidia a également lancé les “Jetson agent skills” (compétences d'agent Jetson), que les développeurs peuvent utiliser pour optimiser l'ensemble de la pile logicielle et réduire la consommation de mémoire en quelques jours seulement, selon la société.

Enfin signalons une autre nouveauté logicielle annoncé cet été, le modèle Cosmos 3 Edge, doté de 4 milliards de paramètres, conçu pour permettre aux systèmes embarqués de, selon les dires de Nvidia, “voir le monde, de raisonner à son sujet en temps réel, ainsi que de prédire et de générer des actions grâce à l'inférence embarquée”.