Un rapport de Thales révèle que le développement rapide de l'IA générative constitue un risque majeur pour la sécurité

[EDITION ABONNES] La cinquième édition du rapport intitulé "Data Thread Report - AI, Quantum and the Evolving Data Threatscape" (*) initié et publié par Thales, consacré aux menaces liées aux données, analyse la gestion des risques et la sécurité de ces données. Il révèle notamment que près de 70 % des organisations considèrent le développement rapide de l’intelligence artificielle (IA) et plus spécifiquement de l’IA générative comme la principale préoccupation de sécurité liée à son adoption, suivi par le manque d’intégrité des donnés (64 %) et les problèmes de fiabilité (57 %).

On le sait, l’IA générative repose fortement sur des données sensibles et de haute qualité et, avec l'émergence de l'IA agentique, garantir la qualité des données devient encore plus crucial pour permettre aux systèmes d'IA de prendre des décisions et d'agir efficacement. 

Dans cette enquête, un tiers des répondants ont indiqué que l’IA générative est en cours d'intégration ou transforme activement leurs opérations. Reste que cette technologie pose des défis complexes en matière de sécurité des données et la majorité des répondants à l’enquête indiquent que son adoption rapide est une préoccupation majeure en terme de gestion de la sécurité. 

« L'évolution rapide du paysage de l'IA génératice (GenAI) pousse les entreprises à agir rapidement parfois au prix d'uen absence de prudence, dans leur course pour garder une longueur d'avance en matière d'adoptionde cette technologie, précise Eric Hanselman, analyste en chef chez S&P Global Market Intelligence 451 Research. De nombreuses entreprises déploient ainsi l’IA générative plus vite qu'elles ne parviennent à maîtriser pleinement leurs architectures applicatives. Un phénimène aggravé par la diffusion rapide d’outils logiciels intégrant des fonctionnalités d’IA génératives, ajoutant de fait des niveaux de complexité et de risque élevés. »

Au-delà de ce constat, 73% des personnes interrogées déclarent investir dans des outils de sécurité spécifiques à l'IA, soit par le biais de nouveaux budgets, soit par la réaffectation de ressources existantes. Au sein de celles qui privilégient la sécurité de l'IA plus des deux tiers ont acquis des outils auprès de leurs fournisseurs cloud, trois sur cinq font appel à des fournisseurs de sécurité établis et près de la moitié se tournent vers des start-ups nouvelles ou émergentes. 

Ainsi, la sécurité de l’IA générative devient rapidement une priorité de dépenses majeure, se classant deuxième dans les votes préférentiels, juste derrière la sécurité dans le cloud. Dans ce cadre, les logiciels malveillants restent la menace la plus répandue, conservant leur première place depuis 2021. Le phishing a grimpé cette année à la deuxième place, dépassant les ransomwares, qui se classent désormais troisième. 

Parmi les acteurs de la menace les plus préoccupants, les sources externes dominent, les hacker occupant la première place, suivis des acteurs étatiques. L'erreur humaine, bien que toujours importante, recule à la troisième place, en baisse d'une place par rapport à l'année précédente. In fine, le rapport révèle que la plupart des organisations sont de plus en plus préoccupées par les risques de sécurité liés au quantique.

La cryptographie post quantique : une précccupation de sécurité majeure

Mais la principale menace, citée par 63 % des répondants, est la compromission future du chiffrement, c’est à dire le fait que les futurs ordinateurs quantiques puissent à terme casser les algorithmes de chiffrement actuels ou futurs, exposant ainsi des données autrefois considérées comme sécurisées.

Juste derrière, 61 % ont identifié des vulnérabilités dans la distribution des clés, où les avancées quantiques pourraient compromettre l'échange sécurisé de clés de chiffrement. De plus, 58 % ont souligné que la menace "récolter maintenant, déchiffrer plus tard" (HNDL, Harvest Now Decrypt Later) selon laquelle les données chiffrées interceptées aujourd'hui pourraient être déchiffrées ultérieurement, est une préocupation réelle.

Face à cette situation, la moitié des organisations réévaluent leurs stratégies de chiffrement et 60 % prototypent ou évaluent activement des solutions de cryptographie post-quantique. Reste que selon l’enquête, seul un tiers d'entre elles font confiance aux fournisseurs de télécommunications ou de cloud pour gérer cette transition. 

« Le temps presse pour être prêt pour l'après-quantique, commente Todd Moore, vice-président mondial des produits de sécurité des données chez Thales. Mais il est encourageant de constater que trois organisations sur cinq travaillent sur des exemples concrets de nouveaux chiffrements. Cependant, les délais de déploiement sont serrés et tout retard pourrait exposer des données critiques. Même avec des échéanciers clairs pour la transition vers les algorithmes PQC, le rythme d'évolution du chiffrement a été plus lent que prévu en raison de la complexité des systèmes existants et de la difficulté d'équilibrer innovation et sécurité. »

(*) Le rapport de 32 pages en anglais téléchargeable ici est basé sur une enquête menée par S&P Global Market Intelligence 451 Research auprès de plus de 3 100 professionnels de l'informatique et de la sécurité dans 20 pays et 15 secteurs d’activité différents en 2025.