Sommet de l’IA : l’Anssi présente les conclusions du stress test

L’Anssi a présenté, le 4 septembre 2025, son retour d’expérience sur le stress test mené lors du Sommet mondial pour l’action sur l’IA, en février 2025 à Paris. Coordonné au Campus Cyber, l’exercice a réuni plus de 200 experts en cybersécurité issus de 20 pays, autour d’un scénario d’attaque contre la supply chain d’un système d’IA.

Selon l’Anssi, le stress test a mis en évidence huit enjeux spécifiques à la sécurité de l’IA :

• les nombreuses dépendances de la supply chain, qui complexifient la maîtrise des risques ;
• la vulnérabilité des données d’entraînement, notamment à leur empoisonnement ;
• un encadrement encore trop lâche du déploiement de l’IA ;
• un partage de vulnérabilités insuffisant et inadapté aux spécificités des modèles ;
• l’opacité des systèmes d’IA, qui freine l’auditabilité et la détection d’anomalies ;
• l’inclusion insuffisante des modèles d’IA dans les plans de reprise d’activité en cas de cyberattaque ;
• la gouvernance cyber de l’IA, encore dépourvue d’un pilotage clair ;
• un partage des responsabilités trop flou entre fournisseurs et clients.

Le rapport formule également plusieurs recommandations, structurées autour de quatre axes : gouvernance, protection, défense et résilience.