La commission permanente de l’Assemblée nationale dédiée à l’IA et à la protection des données personnelles a auditionné Marie-Laure Denis, la présidente de la Cnil, le 11 septembre 2023. Elle y a détaillé son plan d’action pour encadrer les usages de l’IA.
Elle a d’abord listé les nombreuses inquiétudes nées du développement de l’IA générative : « peur de voir disparaître certains emplois, crainte d’une utilisation à des fins malveillantes, atteintes à la propriété intellectuelle, exploitation illicite de données personnelles… ».
Elle a donc appelé à « comprendre, accompagner et contrôler » l’IA, afin de « créer les conditions d’une utilisation (…) éthique, responsable et respectueuse de nos valeurs ». L’AI Act, en cours de finalisation au niveau européen, imposera un cadre légal fondé sur les risques engendrés par les différents cas d’usage de l’IA. Mais il n’entrera en vigueur qu’en 2025, au mieux.
Marie-Laure Denis estime que, d’ici là, la Cnil doit apporter « des réponses concrètes aux entreprises innovantes » et « aux citoyens qui disposent de droits ». Elle souhaite donc déployer dès que possible « l’outillage » nécessaire pour auditer le traitement des données personnelles des modèles d’IA, à 3 niveaux :
- les applications d’IA générative en elles-mêmes, pour s’assurer qu’elles respectent les lois sur le traitement des données personnelles de leurs utilisateurs ;
- les bases de données utilisées pour l’apprentissage de ces IA génératives, pour vérifier qu’elles respectent les droits des personnes concernées par ces données ;
- le modèle sous-jacent des algorithmes déjà entraînés.
