Le distributeur Arrow Electronics annonce ce jour que les développeurs d’application d’intelligence artificielle (IA ) peuvent désormais évaluer à distance l’unité de traitement neuronal discrète (DNPU) Ara240 de NXP Semiconductors.
Et ce grâce à la fonctionnalité Digital Test Drive, introduite récemment par Arrow, qui est un service de test en ligne autorisant les ingénieurs à évaluer des plateformes matérielles à distance et rapidement.
Cette initiative permet d’accéder très en amont à des modèles et technologies d’IA de pointe dans les domaines de la vision par ordinateur, de l’IA générative et des systèmes multimodaux.
Il est ainsi possible désormais d’évaluer les performances de diverses solutions puis de lancer des projets de conception avant d’investir dans une infrastructure matérielle.
Dans ce cadre, alors que l’adoption de l’IA s’accélère dans les secteurs de l’industrie, de la robotique et de la vision intelligente, Arrow estime que les développeurs cherchent de plus en plus à exécuter des charges de travail d’IA sophistiquées au plus près de la source des données.
Le déploiement de l’intelligence artificielle en périphérie de réseau (edge AI) contribue à ce niveau à réduire la latence, à renforcer la confidentialité des données et à diminuer la dépendance au traitement dans le cloud, notamment pour les applications où la réactivité est essentielle, note Arrow.
Conçue pour répondre à ces enjeux, la DNPU Ara240 de NXP procure des performances pouvant atteindre 40 téra-opérations équivalentes par seconde (eTOPS) avec la prise en charge d’un large éventail d’architectures d’IA, notamment les grands modèles de langage (LLM), les modèles de langage visuel (VLM), les transformers et les réseaux neuronaux convolutifs (CNN).
Grâce à la mise à dispostion de jusqu’à 16 Go de mémoire LPDDR4, la solution préconisée par Arrow permet d’exécuter des modèles d’IA volumineux et complexes directement sur des systèmes embarqués et en périphérie, sans recourir aux ressources du cloud. Une façon d’accélérer le développement et l’évaluation de nouvelles applications d’IA tout en optimisant les performances, la sécurité des données et l’efficacité opérationnelle.
Dans cette veine, Arrow met à disposition les solutions Ara240 de NXP à travers sa plateforme Digital Test Drive qui autorise les ingénieurs à accéder à des cartes embarquées physiques et de les évaluer à travers Internet, sans avoir à disposer du matériel sur leur site.
Grâce à cette approche, les utilisateurs peuvent se connecter à des systèmes réels associant les processeurs d’application NXP i.MX à la DNPU Ara240, et ainsi mesurer les performances de leurs applications d’intelligence artificielle dans des conditions d’exploitation représentatives.
Ils peuvent notamment tester des cas d’usage liés à la vision par ordinateur, à l’inférence basée sur de grands modèles de langage (LLM) ou encore aux applications multimodales combinant vision et langage. Il devient ainsi possible d’observer directement le comportement du système sur du matériel réel, ses performances, l’efficacité et l’adéquation de la solution à des besoins spécifiques, tout en réduisant les risques avant d’engager des investissements matériels ou d’arrêter un choix d’architecture.
« Les développeurs ont besoin de moyens concrets pour comprendre comment les technologies d’IA de pointe se comportent dans des applications réelles, précise, Justin Mortimer, Directeur senior du marketing produit au sein de la division Secure Connected Edge de NXP Semiconductors. En donnant accès à la DNPU Ara240 via la plateforme Digital Test Drive, Arrow permet aux équipes d’ingénierie d’évaluer plus rapidement les performances de l’IA en périphérie sur du matériel réel et de prendre des décisions de conception en toute confiance. »
