GEO politique, faux journalistes : les nouveaux fronts de l’influence par IA

En France, des candidats tentent d’optimiser leur visibilité auprès des assistants IA. Ailleurs, des contenus générés, signés par de faux journalistes, ont infiltré de vrais médias. Deux fronts, une même bataille : contrôler les sources qui alimentent les réponses des LLM.

La campagne électorale ne se joue plus seulement dans les urnes, les médias ou sur les réseaux sociaux, elle se prépare aussi dans les réponses de ChatGPT, Gemini et Perplexity. Les candidats ont compris qu’avant de convaincre l’électeur, il pouvait être utile de se faire connaître de son assistant.

En France, selon RTL [1], l’équipe d’Édouard Philippe consacre déjà un poste à temps plein à cette nouvelle bataille. Celle de Gabriel Attal y affecte une à deux personnes. Objectif : améliorer la visibilité des candidats dans les réponses des IA, notamment en adaptant les contenus publiés sur Internet.

Cette pratique porte un nom : GEO (Generative Engine Optimization), l’équivalent duréférencement SEO appliqué aux assistants conversationnels. Il ne s’agit plus seulement d’apparaître en tête des résultats de Google, mais de devenir une source que l’IA retiendra et reformulera.

L’influence peut toutefois prendre des formes nettement moins avouables. Le 8 octobre, OpenAI [2] a annoncé avoir interrompu deux opérations clandestines utilisant ChatGPT. La première, Bogus Bylines, menée depuis l’Iran, affirme le labo, aurait permis de placer une centaine d’articles dans des médias en ligne sous sept fausses identités de journalistes. Le Washington Post [3] a confirmé l’infiltration de plusieurs publications.

La seconde, Dark Clark, attribuée à des opérateurs situés en Russie, s’appuyait sur un prétendu centre de recherche latino-américain, dont certains collaborateurs auraient ignoré les véritables commanditaires. Dans ces deux cas, l’IA a servi à fabriquer ou consolider une crédibilité empruntée : celle d’un journaliste, d’un média ou d’un institut de recherche. Le modus operandi reste néanmoins plus classique que la tentative d’influencer les LLM : « Ce qui frappe le plus dans ces opérations, c’est leur forte ressemblance avec les opérations d’influence complexes de l’ère pré-IA, l’IA servant à simplifier certains processus », détaille OpenAI. Notons que si le laboratoire a bien identifié l’origine géographique de ces opérations, il est resté muet sur une éventuelle direction étatique de celles-ci.

Coups de billard à trois bandes, effet non garanti

En tout été de cause, de telles opérations présentent l’inconvénient d’être, du fait de leur complexité, plus facilement repérables. Certains l’ont bien compris. Ainsi, le 14 octobre, Anthropic [4] a-t-elle reconnu une faille dans les protections électorales de Claude : si l’assistant refuse généralement de participer à une opération d’influence explicitement malveillante, il peut contribuer à la même opération lorsqu’elle est fractionnée en tâches apparemment anodines, comme des recherches d’audience, la rédaction d’articles, la création de sites ou la diffusion de contenus. Un aveu qui laisse entendre que l’entreprise a déjà repéré des petits malins qui, plutôt que de tenter de forcer les garde-fous de son IA, lui ont présentéles pièces du puzzle séparément.

Au Québec, un audit de l’Observatoire de l’écosystème médiatique de McGill, relaté par l’Agence Science-Presse [5], illustre un autre problème. Un site électoral récent, créé avec l’aide de l’IA et contenant plusieurs erreurs, apparaissait fin septembre dans 63 % des réponses étudiées de ChatGPT à des questions de recommandation électorale. À ce stade, aucune manipulation intentionnelle n’est établie. Le constat reste néanmoins préoccupant : une source peu fiable peut acquérir une visibilité considérable dans les réponses d’un assistant.

Ces exemples illustrent les mécanismes détaillés dans notre enquête sur les LLM comme surface d’attaque cognitive : influencer l’information en amont peut suffire à orienter ce que l’utilisateur reçoit en aval. Reste qu’être cité par une IA ne signifie pas mécaniquementconvaincre un électeur. Si l’efficacité politique de ces stratégies demeure difficile à mesurer, leurs promoteurs sont manifestement prêts à prendre les paris.