Retour sur les questions d’éthique et de souveraineté que pose le développement d’outils liés à l’IA par la gendarmerie nationale.

Dans un entretien accordé à L’Usine Digitale publié le 28 juillet 2023, Ysens de France, chargée de mission en intelligence artificielle au sein de la gendarmerie nationale, revient en détails sur la stratégie de l’institution en matière d’IA.

Elle rappelle que les armées et la gendarmerie travaillent depuis 15 ans sur les occasions et les menaces qu’apporte l’IA. L’émergence des IA génératives ne les a donc pas pris de cours. « On est très alerte sur les capacités de désinformation que cela peut créer, sur les capacités de nos criminels et de nos délinquants à être encore plus réactifs avec ChatGPT », indique la chargée de mission.

Elle détaille aussi plusieurs projets fondés sur l’IA développés au sein de la gendarmerie nationale. Elle évoque notamment un algorithme capable de traiter les images pédopornographiques pour soulager psychologiquement les agents assignés à ce sujet. La gendarmerie travaille aussi sur des outils permettant de détecter les usurpations d’identité, les deepfakes ou repérer un élément connu sur des vidéos de plusieurs heures.

« Nous sommes aussi en train de développer ce qu’on appelle le ‘speech-to-text’, c’est-à-dire un outil qui permette de retranscrire automatiquement la voix à l’écrit, par exemple dans le cadre d’une plainte. Ce n’est pas sensationnel mais c’est révolutionnaire pour le gendarme qui gagne du temps et peut être plus à l’écoute d’une victime », précise Ysens de France.

Chaque nouvel outil doit par ailleurs passer de nombreux tests de conformité avant d’être mis en œuvre. Ysens de France est notamment chargée de veiller à ce qu’il reste dans le cadre de ce que la loi autorise. Toutes les données liées à ces projets sont par ailleurs traitées en interne, car, comme le rappelle la chargée de mission, « le sujet de la souveraineté est central ».

La question éthique est également au cœur de la réflexion de la gendarmerie nationale. « L’éthique nous oblige à toujours maîtriser cette technologie, de ne pas lui donner de capacité de décision, de maîtriser son apprentissage, de faire ce que nous, techniciens, appelons du compromis dans la performance », conclut Ysens de France.

Restez informés en temps réel
S'inscrire à
la newsletter
En fournissant votre email vous acceptez de recevoir la newsletter de Incyber et vous avez pris connaissance de notre politique de confidentialité. Vous pourrez vous désinscrire à tout moment en cliquant sur le lien de désabonnement présent dans tous nos emails.
Restez informés en temps réel
S'inscrire à
la newsletter
En fournissant votre email vous acceptez de recevoir la newsletter de Incyber et vous avez pris connaissance de notre politique de confidentialité. Vous pourrez vous désinscrire à tout moment en cliquant sur le lien de désabonnement présent dans tous nos emails.