Des campagnes d’influence ont utilisé ChatGPT

OpenAI a révélé, le 30 mai 2024, avoir identifié, au cours des trois derniers mois, « cinq cas d’utilisation de l’IA pour manipuler l’opinion publique ». Menées depuis la Russie, la Chine, l’Iran et Israël, ces campagnes d’influence ont utilisé des faux articles et des commentaires générés par ChatGPT.

Ces opérations portaient « sur un large éventail de sujets, notamment l’invasion de l’Ukraine par la Russie, le conflit à Gaza, les élections indiennes, la politique en Europe et aux États-Unis, ainsi que les critiques formulées par des dissidents chinois et des gouvernements étrangers à l’encontre du gouvernement chinois », lit-on dans le rapport d’OpenAI.

Deux campagnes de désinformation venaient de Russie. La première a ciblé, sur Telegram, l’Ukraine, la Moldavie, les pays baltes et les États-Unis, via du code et « de brefs commentaires politiques en russe et en anglais » écrits par ChatGPT. Pour la seconde, le LLM a servi à rédiger des commentaires en anglais, français, allemand, italien et polonais, sur X (ex-Twitter) et 9Gag. Il a également produit des articles en anglais et en français, convertis ensuite en publications Facebook.

La campagne chinoise s’est servie de ChatGPT pour écrire des publications sur X, Medium et Blogspot, celle venue d’Iran pour rédiger et traduire de longs articles. Enfin, l’opération israélienne a, selon OpenAI, « utilisé nos modèles pour générer des articles et des commentaires qui ont ensuite été postés sur de multiples plateformes, notamment Instagram, Facebook, X, et des sites web associés à cette opération ».
OpenAI précise que l’usage de ChatGPT n’a pas rendu ces opérations plus efficaces, au contraire. « Ces campagnes ne semblent pas avoir augmenté de manière significative l’engagement ou la portée de leur audience grâce à nos services », lit-on ainsi dans le rapport.