L’IRT Saint-Exupéry et l’institut toulousain Aniti concentrent leurs forces en intelligence artificielle "certifiable"

Lancé en 2018 par l’Institut de recherche technologique (IRT) Saint-Exupéry, le projet Deel (Dependable and Explainable Learning) va désormais continuer ses travaux dans le cadre de l’institut toulousain Aniti (Artificial and Natural Intelligence Toulouse Institute), mis sur pied en 2019 pour développer une intelligence artificielle « responsable » ...au service de l’industrie du futur, avec un focus sur la mobilité, les transports et la cobotique/robotique.

Avec des partenaires québécois, le projet Deel avait été initié pour contribuer à doter les industriels de la filière aérospatiale (le domaine de prédilection de l’IRT Saint-Exupéry), et plus globalement de la mobilité, d’une expertise en intelligence artificielle en ligne avec les exigences de robustesse, de compréhension, d’apprentissage et de certification de ces secteurs critiques.

« Dès le départ, la vocation du projet Deel était de fournir aux partenaires industriels une meilleure compréhension des systèmes intelligents, qui leur permettrait de sécuriser les développements de leurs systèmes critiques intégrant des fonctions d’intelligence artificielle, rappelle Grégory Flandin, directeur de l’IA pour les systèmes critiques à l’IRT Saint-Exupéry, directeur du programme Deel et responsable opérationnel du programme intégratif sur l’IA certifiable au sein de l’institut Aniti. Organisé autour de "défis scientifiques" inspirés par les besoins des industriels, le projet a déjà permis d’acquérir des connaissances et d’approfondir les questionnements liés au fonctionnement des algorithmes. Au final c’est la certification du système qui est en jeu, c’est-à-dire la capacité à démontrer aux autorités et aux usagers sa fiabilité dans toutes ses conditions d’utilisation. »

Le projet Deel a d’ailleurs fortement contribué au choix de Toulouse pour implanter en France l’un des 4 instituts interdisciplinaires d’intelligence artificielle 3IA, l’institut Aniti en l’occurrence. L’intégration officielle du projet au sein du programme « IA certifiable » d’Aniti, qui représente désormais 200 chercheurs issus d’universités, de laboratoires et d’industriels partenaires (Airbus, Thales, Renault, Continental…), était donc attendu.

On rappellera à cet égard que les développements du 3IA Aniti se déploient à travers trois programmes itératifs : l’IA "acceptable" (pour que son usage soit naturel et cohérent avec les besoins des utilisateurs), l’IA "explicable" (afin que la prise de décision opérée par les algorithmes soit claire et que le cheminement du raisonnement puisse être décrit) et l’IA "certifiable" (pour que les garanties théoriques qu’une action a bien été exécutée sans erreur puissent être apportées notamment en milieu critique).

Selon le communiqué publié à l’occasion de la signature officielle du partenariat sur l’IA certifiable entre Aniti et l’IRT Saint-Exupéry le 17 décembre dernier, l’objectif du transfert du projet Deel est de faire grandir les deux entités dans un cercle vertueux où les complémentarités entre un environnement propice à l’accélération des travaux, une implication d’industriels et une ouverture internationale permettront de penser et de proposer, à moyen terme, une formalisation des garanties théoriques des systèmes d’apprentissage pour des applications industrielles. D’ores et déjà, le projet Deel a permis des avancées sur des défis structurants comme la garantie mathématique, la robustesse des algorithmes liés à l’IA, les biais sur les algorithmes et l’explicabilité des algorithmes.

 

Vous pouvez aussi suivre nos actualités sur la vitrine LinkedIN de L'Embarqué consacrée à l’intelligence artificielle dans l’embarqué : Embedded-IA