Sommet pour l’action sur l’IA : sécurité, cybersécurité et gouvernance de la confiance

Cybersécurité et IA

L’Agence nationale de la sécurité des systèmes d’information (ANSSI) et ses partenaires ont présenté une analyse approfondie des risques cyber des modèles d’IA. Un exercice de crise, impliquant plus de 200 experts, a permis d’identifier les vulnérabilités des systèmes intégrant l’IA et d’élaborer des stratégies de défense. 

Création de l’INESIA

La France a annoncé le lancement de l’Institut national pour l’évaluation et la sécurité de l’intelligence artificielle (INESIA). Cet organisme, copiloté par le Secrétariat général de la défense et de la sécurité nationale (SGDSN) et la Direction générale des Entreprises (DGE), travaillera sur l’évaluation des modèles d’IA et leur conformité aux exigences de cybersécurité et de sûreté. 

Lutte contre les manipulations de l’information

VIGINUM et l’Organisation de coopération et de développement économiques (OCDE) ont publié un rapport sur les risques d’ingérence numérique liés à l’IA et mis en avant des outils de détection avancés. L’outil open-source « D3lta », développé par VIGINUM, permet d’identifier les manipulations textuelles à grande échelle. 

Gouvernance et régulation

Le sommet a marqué une étape clé dans la mise en œuvre du règlement européen sur l’IA et le déploiement du Code de conduite du G7, visant à encadrer les pratiques des développeurs d’IA. 

Ces initiatives renforcent la résilience face aux menaces cyber et posent les bases d’une IA plus transparente et maîtrisée.