Le projet CSIA (Confiance dans les Systèmes d’IA) lancé par l’IRT SystemX, centré sur l’ingénierie numérique des systèmes du futur, s’inscrit selon ses promoteurs dans la continuité des travaux du programme confiance.ai qui ont permis l’élaboration d’une méthodologie outillée constituant aujourd’hui l’état de l’art en matière d’ingénierie de l’inteliigence artificielle (IA) industrielle et responsable.

Ce projet CSIA a pour ambition de lever les verrous liés à la confiance dans les IA générative et hybride à travers une dizaine de cas d’usages industriels, afin de mettre au point des méthodes et outils conformes aux règlementations (comme l’AI Act de l’Union Européenne) et destinés à compléter ceux de l’European Trustworthy AI Association.

Ce projet réunit actuellement six partenaires industriels - Naval Group, Octopize, Safenai, Safran, Sopra Steria et Thales - et trois partenaires académiques - ONERA, Université Paris-Saclay et IRT SystemX. Il est ausssi ouvert à tout partenaire intéressé à rejoindre le consortium.

L’IRT SystemX indique que la méthodologie outillée issue ds travaux de confiance.AI, désormais maintenus maintenus par l’European Trustworthy AI Association, va continuer de s’enrichir au travers des travaux menés dans le cadre du projet CSIA.

Les partenaires du projet se fixent deux principaux objectifs.

- Enrichir la méthodologie et les composants technologiques en prenant en compte notamment les spécificités des systèmes critiques fondés sur l’IA hybride comme le couplage de techniques neuronales à des modèles physiques, ou des approches de type neuro-symboliques, tout en assurant une maitrise rigoureuse du cycle de vie des données et des connaissances et en garantissant les propriétés de fiabilité, de sécurité et d'explicabilité.

Les industriels partenaires du projet souhaitent aussi pouvoir concevoir une IA générative de confiance, c’est-à-dire valide, transparente, sécurisée et en conformité avec les nouveaux cadres réglementaires et standards.

Enfin, le catalogue d’outils d’IA de confiance open source sera également enrichi de nouveaux concepts outillés : OD (operational domain), ODD (operational design domain), formulation technique de l'"Intended Purpose" (*), RUM (Robustness, Uncertainty, Monitoring), outils d’anonymisation des données, etc.

- Adapter la méthodologie et les composants technologiques de confiance aux exigences de conformité de l’IA Act, en particulier l’article 6 qui concerne “les systèmes d’IA à haut risque” et qui entrera en application le 2 août 2027. Le tout en s’inscrivant dans les dynamiques de normalisation en cours, notamment celles portées par les groupes EUROCAE/SAE, afin d’assurer l’alignement avec les standards émergents.

A travers les travaux du CSIA, les industriels pourront ainsi mettre à jour leurs processus de développement de solutions d’IA de confiance, en tirant profit d’une combinaison d’”assets sur-mesure” afin de répondre à leurs cas d’usage qui garantit la conformité à la réglementation européenne.

En vue de démontrer la pertinence des méthodologies et des outils développés dans le cadre du projet CSIA ainsi que leur applicabilité dans les contextes industriels, les partenaires impliqués les éprouveront leurs travaux sur une dizaine de cas d’usage spécifiques.

Le premier dans l’aéronautique, visera la mise en place d’un chatbot basé sur l’IA et de modèles de langages, permettant d’interroger un historique de données de vol, avec un objectif de démontrer et d’évaluer les propriétés de confiance associées à ce système. Ce cas d’usage s’inscrit dans la thématique de l’IA de confiance appliquée aux modèles génératifs textuels.

Le second se consacrera à la création d’une solution d’aide à la gestion du trafic aérien augmentée par machine learning. Cette solution offre une vue en temps réel des séquences d'arrivée et de départ, aidant ainsi les contrôleurs aériens à gérer facilement l'attribution des pistes et l'ordonnancement des vols, ce qui permet d'optimiser l'utilisation des pistes pour garantir des opérations sûres, ponctuelles et efficaces, en particulier en cas de trafic intense. 

(*) Voir https://artificialintelligenceact.eu/article/3/