Genocidal Organ :peut-on pirater une société par le langage ?

Jean Langlois-Berthelot et Clémence Foufa

Une phrase qui ne tue personne

Dans Genocidal Organ, aucun mot ne possède seul la puissance d’une arme. John Paul observe d’abord les fractures, les humiliations et les peurs déjà présentes. Il choisit les termes capables de les relier, les autorités susceptibles de les reprendre et les situations dans lesquelles le discours paraîtra confirmer ce que chacun croyait déjà. Le langage n’invente pas la vulnérabilité ; il lui fournit une forme, un rythme et une cible.

Cette distinction est essentielle pour penser le cyber. Un code malveillant n’agit pas dans le vide : il exige une faille, un environnement d’exécution et des privilèges suffisants. De la même façon, un récit hostile ne devient opératoire que s’il rencontre une architecture de diffusion, des mécanismes de recommandation, des relais crédibles et une population préparée à l’entendre. Chercher uniquement la phrase dangereuse revient à rechercher un virus sans examiner le système qui lui permet de s’exécuter.

Le roman déplace ainsi la question de la propagande. Il ne demande pas seulement pourquoi les individus croient un mensonge, mais comment une infrastructure transforme certains énoncés en permissions d’agir. La cybersécurité protège des réseaux, des identités et des données. Genocidal Organ oblige à ajouter un objet plus difficile : la capacité d’une collectivité à conserver un langage commun sans laisser un adversaire en modifier silencieusement les règles.

Le novum de la grammaire génocidaire

Le novum, c’est-à-dire l’innovation fictionnelle qui fait basculer un monde reconnaissable vers un autre, prend ici la forme d’une structure linguistique capable d’activer une disposition enfouie. Itoh ne prétend pas fournir une théorie scientifique du passage à l’acte. Il construit un instrument de pensée : que se passerait-il si l’on pouvait réduire, par le langage, la distance entre une colère disponible et une violence organisée ?

Cette hypothèse est plus subtile qu’un pouvoir de persuasion absolu. La « grammaire » réorganise ce qui paraît acceptable, urgent ou inévitable. Elle transforme un voisin en menace, une hésitation en faiblesse et une violence préventive en devoir. Le changement décisif porte sur les relations entre les faits : qui cause quoi, qui appartient encore au groupe et quelle mort peut désormais être justifiée.

Dans un système numérique, cette couche peut être qualifiée de sémantique. L’intégrité sémantique ne signifie pas que tous doivent interpréter un événement de la même manière. Elle exige que l’origine, le contexte, la portée et les transformations d’un message restent visibles. Une citation exacte, retirée de son contexte puis répétée par des milliers de comptes, peut conserver son intégrité technique tout en perdant toute intégrité sémantique.

Le cyber commence donc avant le faux manifeste. Il commence dans la manière dont les plateformes découpent un discours, recommandent un extrait, agrègent des réactions et donnent à une expression marginale l’apparence d’un consensus. La grammaire d’Itoh devient alors moins une formule qu’une chaîne de traitement.

Le langage comme surface d’attaque

Les organisations savent analyser un courriel frauduleux, un domaine usurpé ou une pièce jointe malveillante. Elles sont moins préparées lorsque le message est techniquement authentique et néanmoins conçu pour produire une décision destructrice. Un document du bon ministère peut être diffusé au moment, dans le cadrage et auprès du public qui maximisent son potentiel de rupture.

Le langage constitue une surface d’attaque parce qu’il organise la confiance. Qualifier une panne de sabotage, un déplacement de population d’invasion ou une mesure sanitaire de persécution installe le modèle à travers lequel les faits seront sélectionnés. L’attaquant n’a plus besoin de falsifier toute la réalité. Il lui suffit d’imposer la syntaxe dans laquelle elle sera racontée.

L’ingénierie sociale exploite déjà cette propriété. Le fraudeur ne casse pas toujours une authentification ; il crée une situation dans laquelle la victime croit devoir la contourner. Urgence, autorité, culpabilité ou peur sont des instructions adressées à l’opérateur humain. Genocidal Organ élargit cette logique à l’échelle d’une société : le groupe devient l’utilisateur final, ses institutions le système cible, et le récit hostile la procédure qui pousse chacun à désactiver ses propres protections.

Il faut donc analyser les campagnes d’influence comme des opérations cyber complètes. Elles possèdent une reconnaissance, une infrastructure, des identités, des canaux de commandement, des mécanismes de persistance et des effets recherchés. Le contenu visible n’est que la charge utile.

Cartographier avant de convaincre

Avant d’écrire, l’attaquant cartographie. Il repère les mots qui séparent, les événements restés sans explication et les figures capables de traduire un message dans le vocabulaire du groupe. Les données publiques, les interactions sociales et les habitudes de consommation révèlent quelles blessures peuvent être activées et quelles preuves seront jugées recevables.

Cette reconnaissance permet de ne pas viser toute une population. Quelques comptes administrateurs, journalistes locaux, responsables associatifs, influenceurs ou membres de groupes privés peuvent suffire. Comme dans une intrusion informatique, les identités les plus utiles ne sont pas toujours les plus visibles ; ce sont celles qui relient plusieurs réseaux et dont la parole bénéficie déjà de privilèges implicites. Compromettre leur confiance offre un mouvement latéral vers des communautés entières.

Une campagne teste plusieurs formulations, observe lesquelles provoquent la colère, identifie les segments qui les reprennent puis adapte le message. Le discours n’est plus seulement publié : il est optimisé par le retour d’engagement. Ce qui ressemblait autrefois à une intuition propagandiste devient une boucle d’apprentissage.

Il suffit que l’algorithme classe les individus assez bien pour distribuer des variantes différentes d’un même récit et empêcher qu’elles soient comparées. Une société croit débattre d’un événement commun alors que chaque groupe reçoit une version conçue pour confirmer sa propre menace.

Quand la plateforme exécute le message

Une plateforme ne se contente pas de transporter des phrases. Elle décide de leur ordre, de leur répétition, de leur voisinage et de leur vitesse de diffusion. Ces paramètres forment un environnement d’exécution. Une publication isolée peut rester sans effet ; recommandée après une vidéo choquante, reprise par des comptes coordonnés et entourée d’un faux consensus, elle acquiert une autre puissance.

L’attaque vise alors la perception de la normalité. Les humains évaluent une idée à travers des indices sociaux : qui la partage, combien semblent l’approuver et quelle sanction frappe ceux qui la contestent. Les faux comptes et les commentaires synthétiques fabriquent ces indices. Ils ne prouvent rien, mais modifient ce qu’un individu pense pouvoir dire sans risque.

Genocidal Organ permet de comprendre pourquoi la modération d’un contenu isolé arrive souvent trop tard. L’effet résulte d’une séquence : préparation du vocabulaire, désignation d’un groupe, multiplication de récits compatibles, banalisation d’une mesure exceptionnelle, puis présentation de la violence comme réponse défensive. Supprimer le dernier message ne restaure pas les étapes précédentes. La persistance se trouve dans les catégories déjà installées.

L’IA générative industrialise l’adaptation

L’intelligence artificielle générative ne crée pas cette logique, mais elle en abaisse le coût. Elle permet de produire des variantes, de traduire un message, d’imiter un registre local, de maintenir des personnages cohérents et de répondre aux objections. Une campagne peut parler avec plusieurs voix sans disposer d’une armée de rédacteurs.

Le risque le plus immédiat n’est pas une machine qui découvrirait seule une grammaire universelle de la violence. Il tient à la combinaison de modèles génératifs avec des données de ciblage, des outils d’automatisation et des systèmes de recommandation. Le NIST souligne d’ailleurs que l’IA générative peut faciliter la production de contenus violents ou haineux et abaisser les barrières à des campagnes de désinformation à grande échelle. La puissance vient de l’assemblage, pas du modèle isolé.

Cette automatisation produit une asymétrie. Le défenseur doit vérifier, contextualiser et assumer chaque réponse ; l’attaquant peut multiplier les versions contradictoires. Il ne cherche pas toujours à imposer une vérité. Il peut saturer l’espace, épuiser les vérificateurs et rendre toute décision suspecte. La confusion devient un effet opérationnel.

La défense ne peut donc dépendre d’un détecteur chargé de reconnaître le « texte produit par une IA ». Les modèles changent et les contenus sont réécrits. Il faut observer les comportements : création coordonnée de comptes, recyclage de formulations, vitesse anormale de diffusion et passage synchronisé entre plateformes.

Défendre le contexte plutôt que censurer les mots

Une liste de termes interdits ne peut protéger une société contre la grammaire d’Itoh. Le même mot peut décrire une menace réelle, citer une archive, dénoncer une propagande ou préparer une violence. Une défense fondée uniquement sur le lexique produit des faux positifs, favorise les contournements et risque de détruire précisément la confiance qu’elle prétend préserver.

Il faut protéger le contexte. La provenance des contenus, l’historique des modifications, l’identité déclarée des relais, les liens financiers et les mécanismes d’amplification doivent devenir plus visibles. Cette transparence ne décide pas de la vérité, mais elle rend l’opération plus coûteuse. Elle permet de distinguer une conviction spontanée d’une coordination dissimulée et une erreur isolée d’une campagne structurée.

Les institutions doivent également préparer des canaux capables de parler avant la saturation. Une communication de crise lente, abstraite et centralisée laisse le terrain aux récits qui offrent immédiatement une cause et un coupable. La réponse doit s’appuyer sur des relais locaux, plusieurs langues, des preuves consultables et la reconnaissance explicite des incertitudes. Une parole qui prétend tout savoir devient fragile dès la première correction.

Un threatcasting de la contagion sémantique

Le threatcasting consiste à décrire un futur menaçant, puis à remonter vers les décisions et dépendances qui pourraient le rendre possible. Appliqué à Genocidal Organ, il oblige à reconstruire une chaîne d’attaque. Imaginons qu’une cyberattaque interrompe plusieurs services hospitaliers. Des documents falsifiés suggèrent que certains quartiers ont été volontairement sacrifiés. Des comptes locaux reprennent l’accusation et des agents conversationnels répondent aux habitants dans leur langue.

En quelques heures, l’incident technique devient une preuve de persécution. Des groupes s’organisent pour « protéger » leurs établissements, des personnels sont menacés et les équipes de restauration ne peuvent plus intervenir. L’attaque initiale n’a pas seulement rendu des systèmes indisponibles ; elle a fourni le choc autour duquel une grammaire hostile pouvait ordonner la colère.

Remonter depuis ce futur fait apparaître les points d’action présents : segmentation des réseaux hospitaliers, publication de journaux d’incident vérifiables, relations préalables avec les communautés, détection des coordinations et communication multilingue. Les indicateurs incluent l’apparition simultanée de formulations identiques, le déplacement des accusations vers des groupes précis et l’effacement des distinctions entre erreur, attaque et intention politique.

L’exercice doit tester la possibilité de décider lorsque les mots utilisés pour décrire la crise ont eux-mêmes été compromis. Qui peut encore nommer l’événement ? Quelles preuves traversent les communautés ? Quel canal reste crédible si la plateforme dominante devient hostile ? La réponse ne consiste ni à purifier le langage ni à confier à une autorité unique le soin de déterminer les récits admissibles : cette centralisation créerait un autre point de compromission. La résilience suppose plusieurs sources, plusieurs médiateurs, plusieurs temporalités et la possibilité de revenir au contexte lorsque l’émotion pousse vers la conclusion la plus rapide. La cybersécurité protège des machines parce qu’elles soutiennent des décisions humaines ; Project Itoh inverse la perspective et oblige à protéger aussi les conditions linguistiques dans lesquelles ces décisions demeurent libres. Une société n’est pas sûre simplement parce que ses réseaux fonctionnent. Elle l’est lorsqu’aucun acteur ne peut transformer, à lui seul, sa peur en syntaxe et sa syntaxe en ordre.

Repères documentaires

1. Project Itoh, Genocidal Organ (Gyakusatsu Kikan), Hayakawa Shobō, 2007 ; traduction anglaise d’Edwin Hawkes, Haikasoru/VIZ Media, 2012 ; adaptation de Shukō Murase, Geno Studio, 2017.

2. NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, 2024. [source]

3. Service européen pour l’action extérieure, 3rd EEAS Report on Foreign Information Manipulation and Interference Threats, 2025. [source]

4. OCDE, Facts not Fakes: Tackling Disinformation, Strengthening Information Integrity, 2024. [source]

5. DISARM Foundation, DISARM Framework : tactiques, techniques et procédures des opérations de manipulation de l’information. [source]

6. Brian David Johnson et Natalie Vanatta, Threatcasting, Springer, 2022.