OpenAI désactive des comptes de ChatGPT responsables de campagnes étatiques de désinformation

OpenAI a publié, en juin 2025, un rapport sur une dizaine de campagnes de désinformation menées par des acteurs étatiques à l’aide de ChatGPT, entre mars et mai 2025. Le géant de l’IA générative indique avoir identifié et fermé les comptes responsables de ces agissements, détenus par des acteurs liés à la Chine, à la Russie, à l’Iran ou à la Corée du Nord.

Dans le détail, ces campagnes avaient pour objectif de diffuser et rendre viraux des fausses informations et des débats polarisants sur les réseaux sociaux. En combinant ChatGPT avec des scripts personnalisés, elles généraient automatiquement des faux profils, des publications et des commentaires, notamment sur TikTok, X (ex-Twitter), Reddit et Facebook.

Des acteurs chinois ont ainsi créé des fausses discussions sur des sujets d’actualité aux États-Unis, générant automatiquement des opinions opposées, émises notamment par de faux vétérans de l’armée. La Russie a quant à elle tenté de perturber les élections fédérales allemandes de 2025, en diffusant des fausses informations susceptibles de favoriser le parti d’extrême-droite Alternative für Deutschland (AfD).

OpenAI se montre toutefois rassurant sur la portée limitée de ces campagnes. « Nous n’avons pas observé que ces opérations obtenaient plus d’engagement grâce à l’IA. La plupart du temps, les seuls à interagir avec le contenu sont les opérateurs eux-mêmes », a ainsi indiqué Ben Nimmo, responsable des enquêtes chez OpenAI.