Une initiative française veut lutter contre les biais antidémocratiques des IA

Make.org, un spécialiste français des technologies démocratiques, a officiellement lancé, en novembre 2023, « GenAI for Democracy », une initiative française à visée internationale. Elle entend lutter contre les biais antidémocratiques des IA, en particulier des modèles larges de langage (LLM), comme ChatGPT.

Dotée d’un budget de huit millions d’euros, GenAI for Democracy réunit, coté recherche, Sciences Po, le CNRS, la Sorbonne et le GENCI (Grand équipement national de calcul intensif). Elle compte aussi parmi ses membres la start-up d’intelligence artificielle française Hugging Face, Mozilla.ia ou Project Liberty, une initiative défendant un Internet au service des citoyens.

« C’est une satisfaction que l’idée parte de France. Mais l’objectif est de faire monter à bord des universités américaines et d’autres universités européennes », pointe Axel Dauchez, co-fondateur de Make.org. « Les modèles d’IA générative, comme toute technologie, encodent des valeurs qui reflètent leur processus de développement. Comprendre comment (…) est un enjeu majeur pour s’assurer qu’ils aient un effet positif », indique Yacine Jernite, de Hugging Face.

À court terme, GenAI for Democracy veut convoquer un sommet européen sur les risques que font peser les LLM sur les élections. En 2024 se tiendront deux scrutins majeurs, les élections européennes et la présidentielle américaine.

À moyen terme, l’initiative a pour but de développer « des modèles de langage sans biais antidémocratiques », pour « les mettre à la disposition des pouvoirs publics », selon les mots d’Axel Dauchez. L’essentiel de son budget financera ainsi un programme de recherche de deux ans sur le sujet, s’appuyant sur une cinquantaine de chercheurs.