Influence artificielle : comment les modèles génératifs transforment déjà les opérations informationnelles

Jean Langlois-Berthelot, LCL Marc-Olivier Boisset, LCL Julie Achmirowicz

Pendant plusieurs années, les opérations d’influence numériques sont restées limitées par une contrainte relativement simple : produire du contenu à grande échelle coûtait du temps, mobilisait des équipes humaines importantes et nécessitait une coordination lourde. Même les grandes fermes à trolls révélées après 2016 reposaient encore sur des infrastructures relativement classiques : opérateurs humains, segmentation linguistique limitée, chaînes de production éditoriale encore largement humaines et capacités d’adaptation relativement lentes.

L’intelligence artificielle générative est en train de modifier brutalement cet équilibre.

Pour la première fois, il devient possible de produire industriellement des récits numériques capables d’être reformulés, contextualisés, traduits, adaptés et redistribués quasi instantanément selon les plateformes ciblées, les réactions observées ou les communautés visées. Cette évolution ne transforme pas uniquement la production de contenus : elle modifie progressivement l’architecture même des environnements informationnels contemporains.

Cette transformation reste encore relativement peu visible publiquement car les usages les plus sophistiqués demeurent difficiles à attribuer clairement. Pourtant, plusieurs signaux convergents observés depuis 2023 montrent que les opérations informationnelles entrent progressivement dans une nouvelle phase industrielle.

En février 2024, OpenAI et Microsoft publient conjointement un rapport décrivant plusieurs usages malveillants de modèles génératifs par des groupes associés à des intérêts étatiques divers. Les activités observées restent encore relativement limitées : assistance à la rédaction, traduction automatisée, génération de contenus sociaux, reformulation linguistique ou automatisation partielle de campagnes de phishing. Mais ce rapport révèle surtout un basculement important : les modèles génératifs commencent désormais à être intégrés directement dans les chaînes opérationnelles des campagnes informationnelles.

Ce basculement modifie profondément les problématiques de défense informationnelle.

Pendant deux décennies, les opérations d’influence reposaient principalement sur des logiques de diffusion massive. Les campagnes cherchaient avant tout à augmenter artificiellement la visibilité de certains récits via bots, relais coordonnés, amplification algorithmique ou fermes de contenus. L’efficacité dépendait largement du volume humain mobilisable et de la capacité à maintenir des réseaux de diffusion suffisamment denses.

Les modèles génératifs modifient profondément cette économie.

Le coût marginal de production narrative chute brutalement. Un groupe relativement restreint peut désormais produire des milliers de variantes d’un même récit adaptées simultanément aux langues, aux plateformes, aux sensibilités politiques, aux références culturelles ou aux styles conversationnels spécifiques de certaines communautés numériques.

Cette modularité constitue probablement la rupture la plus importante.

Les campagnes informationnelles classiques produisaient généralement des récits relativement rigides. Les architectures génératives permettent désormais des récits dynamiques capables d’évoluer en temps réel selon les réactions observées. Sur plusieurs plateformes occidentales, des chercheurs spécialisés dans l’analyse des comportements coordonnés observent déjà des campagnes utilisant reformulation automatisée, variation stylistique, traduction instantanée, génération de faux commentaires, simulation conversationnelle ou adaptation continue des éléments de langage.

Autrement dit, les systèmes génératifs permettent progressivement de maintenir artificiellement des environnements de cohérence narrative malgré la fragmentation croissante des espaces numériques.

Cette évolution apparaît particulièrement visible sur les plateformes fonctionnant autour de recommandations algorithmiques massives comme TikTok, X, YouTube ou certaines communautés Reddit fortement polarisées. Dans ces environnements, la viralité dépend moins de la cohérence absolue d’un récit que de sa capacité à produire des micro-réactions émotionnelles répétées compatibles avec les mécanismes de recommandation.

Du point de vue défensif, l’IA générative devient ainsi un puissant multiplicateur d’expérimentation narrative, compliquant fortement les mécanismes traditionnels de détection, d’attribution et de stabilisation informationnelle.

Des milliers de variantes narratives peuvent désormais être produites et testées simultanément afin d’identifier les formulations produisant le plus d’engagement, les structures narratives les plus virales ou les formats les mieux adaptés à certains environnements numériques. Cette logique rapproche progressivement les opérations d’influence des modèles d’optimisation déjà utilisés dans la publicité numérique, les systèmes de recommandation ou les architectures de growth marketing.

Les environnements informationnels deviennent ainsi progressivement computationnels.

En France, plusieurs travaux conduits dès la fin des années 2010 dans les sphères défense et sécurité avaient déjà commencé à réintroduire les outils de la narratologie et des sciences cognitives dans l’analyse des opérations informationnelles contemporaines. Ces réflexions, notamment soutenues dans le cadre de certains travaux de l’Agence de l’innovation de défense (AID) pour la communauté sécurité-défense et en lien avec le Département d’Études Cognitives de l’ENS Ulm, ont contribué à déplacer progressivement l’analyse au-delà de la seule question du contenu faux ou manipulé.

Cette approche a notamment permis de mieux comprendre la structuration récurrente de certains récits de désinformation, leurs mécanismes de sérialité, leurs architextes implicites ou encore la manière dont certaines propagandes parviennent à produire des univers narratifs cohérents malgré leur faible robustesse factuelle. Elle a également contribué à replacer les conflits informationnels dans une perspective plus large de stabilité cognitive des environnements numériques contemporains.

Mais l’accélération récente des modèles génératifs, des systèmes de recommandation et des architectures algorithmiques modifie progressivement l’échelle du problème.

Car les environnements numériques contemporains ne se contentent plus de diffuser des récits structurés : ils deviennent désormais capables de produire, adapter, reformuler, tester et redistribuer dynamiquement des architectures narratives à très grande vitesse selon les réactions observées sur les plateformes.

Autrement dit, la question n’est plus uniquement celle de la structure des récits. Elle devient progressivement celle de leur industrialisation computationnelle.

Cette mutation dépasse largement le seul cadre des opérations étatiques classiques. Les outils génératifs accessibles publiquement permettent désormais à une pluralité d’acteurs — groupes militants, réseaux idéologiques, acteurs économiques, influenceurs, communautés radicalisées ou structures hybrides — de produire des environnements informationnels artificiellement cohérents avec des moyens techniques relativement limités.

Du point de vue défensif, cette évolution complique considérablement les mécanismes classiques de détection et d’attribution.

Les campagnes deviennent plus fragmentées, plus adaptatives et souvent beaucoup moins visibles. Là où les anciennes opérations reposaient sur des comportements relativement répétitifs — duplication de messages, réseaux de bots homogènes, signatures linguistiques stables — les architectures génératives produisent désormais des contenus plus variés, plus contextualisés et statistiquement beaucoup plus proches des interactions humaines ordinaires.

Le sujet devient encore plus complexe avec l’apparition progressive des avatars synthétiques.

Depuis 2023, plusieurs campagnes détectées sur les réseaux sociaux ont utilisé voix générées, visages synthétiques, présentateurs artificiels, journalistes fictifs ou influenceurs virtuels produits par IA. Ces dispositifs restent parfois imparfaits. Mais leur qualité progresse extrêmement rapidement. En parallèle, les coûts techniques chutent fortement grâce à la démocratisation des modèles open source et des outils de fine tuning accessibles à des groupes disposant de ressources relativement limitées.

La frontière entre automatisation et présence humaine devient progressivement floue.

Cette ambiguïté constitue probablement l’un des enjeux centraux des prochaines années. Les opérations d’influence ne reposent plus nécessairement sur des bots entièrement automatisés. Elles s’orientent vers des modèles hybrides combinant coordination humaine, génération algorithmique, adaptation semi-automatique et supervision comportementale.

Autrement dit, l’IA ne remplace pas les opérateurs informationnels. Elle augmente considérablement leur capacité de production, d’adaptation et de persistance.

Le développement des modèles conversationnels renforce encore cette dynamique. Les grands modèles de langage permettent désormais de maintenir des interactions longues relativement cohérentes dans des environnements publics ou semi-publics. Cette capacité ouvre des perspectives inédites pour la simulation communautaire, les faux débats, l’animation artificielle de groupes, la production d’expertise synthétique ou l’infiltration conversationnelle progressive.

Plusieurs chercheurs spécialisés dans l’étude des réseaux sociaux commencent d’ailleurs à évoquer l’émergence possible de “communautés synthétiques”, c’est-à-dire d’environnements numériques où une part croissante des interactions serait partiellement générée ou assistée par intelligence artificielle.

Cette perspective transforme profondément les problématiques classiques de cybersécurité et de lutte informationnelle.

Les modèles historiques de modération reposaient principalement sur la détection de bots, l’analyse comportementale, l’identification de campagnes coordonnées ou la vérification factuelle des contenus. Mais les systèmes génératifs contemporains compliquent considérablement ces approches. Les contenus deviennent plus variés, plus adaptatifs, plus contextualisés et souvent beaucoup plus difficiles à distinguer des interactions humaines ordinaires.

Les plateformes numériques elles-mêmes deviennent alors des terrains de compétition algorithmique.

Les systèmes de recommandation favorisent naturellement les contenus générant engagement, polarisation émotionnelle ou temps d’exposition élevé. Les modèles génératifs permettent précisément d’optimiser ces paramètres à très grande échelle. L’influence contemporaine ne consiste donc plus uniquement à diffuser une idéologie cohérente. Elle consiste de plus en plus à exploiter les architectures mêmes des plateformes numériques afin de maintenir certains états émotionnels ou cognitifs collectifs.

Cette évolution produit également une accélération temporelle importante.

Les campagnes classiques nécessitaient préparation, rédaction, coordination, traduction, distribution et ajustements relativement lents. Les architectures génératives permettent désormais des boucles d’adaptation beaucoup plus rapides. Une opération informationnelle peut théoriquement ajuster ses récits quasi en temps réel selon les tendances, les controverses, les réactions observées ou les métriques d’engagement.

Du point de vue des architectures défensives, cette accélération pose un problème majeur de temporalité.

Les mécanismes classiques de réponse — fact-checking, communication institutionnelle, modération ou contre-discours — fonctionnent souvent sur des cycles beaucoup plus lents que les architectures génératives contemporaines. Le problème ne réside donc plus uniquement dans la véracité des contenus. Il concerne désormais la stabilité même des environnements informationnels et la capacité des plateformes à éviter des phénomènes de fragmentation cognitive continus.

Dans ce contexte, les opérations d’influence deviennent progressivement des problématiques d’infrastructure numérique autant que de communication politique. Les enjeux concernent désormais les modèles génératifs, les systèmes de recommandation, les architectures de plateformes, les mécanismes d’engagement, les environnements conversationnels et les capacités de simulation sociale artificielle.

La désinformation entre ainsi dans une phase beaucoup plus industrielle, distribuée et computationnelle.

Et cette mutation pourrait rapidement devenir l’un des principaux défis défensifs des environnements numériques contemporains.