L’Anssi publie un rapport sur la cybersécurité de l’IA

L’Anssi a publié, le 7 février 2025, un rapport baptisé Développer la confiance dans l’IA par une approche par les risques cyber, en marge du sommet sur l’IA qui s’est tenu à Paris du 6 au 11 février 2025. Rédigé en collaboration avec 16 partenaires internationaux, ce document détaille les trois principaux scénarios d’attaque visant un système d’IA :

• les cyberattaques par « empoisonnement », consistant en une altération des données du modèle ou de son entraînement, afin de modifier la réponse du système ;
• les cyberattaques par « extraction », qui cherchent à reconstruire ou récupérer des données internes au modèle après la phase d’apprentissage ;
• les tentatives « d’évasion », qui consistent à modifier les données d’entrée d’un système pour changer son comportement.

L’Anssi insiste sur les graves conséquences que peuvent avoir de telles attaques, en particulier si elles visent des activités sensibles, comme le médical ou la défense.

Dans son rapport, l’agence propose également des recommandations pour améliorer la cybersécurité des systèmes d’IA. Plusieurs d’entre elles insistent sur le facteur humain, et invitent à renforcer la sensibilisation et la formation des employés aux risques cyber.