La Cnil lance « PANAME », un outil pour tester la conformité au RGPD des modèles d’IA

Cette bibliothèque logicielle, créée avec l’Anssi, le PEReN et le projet IPoP, pourra vérifier qu’une IA n’expose pas d’informations confidentielles extraites de ses données d’entraînement.

La Cnil a annoncé, le 26 juin 2025, le lancement du projet « PANAME » (pour « Privacy Auditing of AI Models »), mené en collaboration avec l’Anssi, le PEReN et le projet IPoP. Cette initiative vise à créer, d’ici 18 mois, une bibliothèque logicielle permettant de vérifier si des modèles d’IA compromettent la confidentialité des données sur lesquelles ils ont été entraînés.

Cette ressource rassemblera des méthodes standardisées d’audit de confidentialité. Elle devra être utilisable par les entreprises et les administrations publiques, même en l’absence d’expertise en cybersécurité.

Dans le détail, la Cnil va piloter l’ensemble du projet. Le Pôle d’expertise de la régulation numérique (PEReN) assurera le développement de la bibliothèque. L’Anssi proposera des modèles de menace et des attaques réalistes. Enfin, le projet IpoP, issu du Programme et équipement prioritaire de recherche « Cybersécurité », assurera la direction scientifique et la supervision méthodologique de PANAME.

Cette création répond notamment à un avis du Comité européen de la protection des données (CEPD) de décembre 2024. L’institution européenne y indiquait que, le plus souvent, le RGPD s’applique aux modèles d’IA entraînés sur des données personnelles.