Les géants du numérique s’engagent contre les deepfakes politiques

Une vingtaine de grandes entreprises du numérique ont signé, le 16 février 2024, durant le forum sur la sécurité de Munich, une déclaration visant à lutter contre les deepfakes politiques. Le document détaille de grands principes et des moyens d’action pour « aider à empêcher les contenus trompeurs générés par IA d’interférer dans les élections prévues cette année dans le monde ».

Parmi les signataires figurent Adobe, Amazon, Google, Meta, Microsoft, OpenAI, Snap, TikTok ou X. La déclaration cible « les contenus audio, les vidéos ou les images convaincants générés par IA, qui, de façon malhonnête, simulent ou modifient l’apparence, la voix ou les actes de candidats, d’organisateurs de scrutins, ou d’autres acteurs-clés d’élections démocratiques, ou qui fournissent de fausses informations aux électeurs sur quand, où et comment voter ».

Les signataires s’engagent à développer des outils communs pour identifier et tracer les contenus générés par IA, dans la continuité du standard de marquage C2PA, en cours de développement. Les géants du numérique veulent également améliorer l’identification de ces contenus trompeurs par les grandes plateformes. Ils proposent pour cela l’usage de logiciels de détection, d’options permettant aux créateurs d’indiquer qu’ils ont eu recours à l’IA, ou d’outils de signalement.

Le document est beaucoup plus flou sur les actions à entreprendre en cas de détection de contenus suspects. Les signataires doivent en effet maintenir un équilibre entre la lutte contre les contenus trompeurs et la liberté d’expression. La déclaration précise d’ailleurs qu’il leur faudra « faire attention au contexte, et préserver l’expression éducative, documentaire, artistique, satirique ainsi que politique ».