Utopiales : quand la guerre informationnelle prend la science pour cible

Aux Utopiales de Nantes, la rencontre « Hallucinations scientifiques », avec Vincent Bontems, Catherine Dufour et Éric Picholle, a posé une question dérangeante : comment peut-on croire observer un phénomène qui n’existe pas ? Des rayons N de René Blondlot aux expériences de parapsychologie, l’histoire des sciences offre plusieurs exemples de convictions qui ont résisté aux faits. Le sujet déborde les erreurs du passé. Il conduit à s’interroger sur ce qui arriverait si un adversaire cherchait délibérément à provoquer de telles méprises.

La guerre informationnelle est généralement abordée à travers les fausses nouvelles, les campagnes d’influence ou la manipulation des images. Pourtant, les connaissances scientifiques constituent elles aussi une cible possible. Elles orientent des investissements, fondent des choix industriels et déterminent ce qu’une organisation juge réalisable. Une erreur durable dans ce domaine peut faire perdre du temps, immobiliser des moyens et conduire à prendre des décisions sur des bases fausses.

C’est cette possibilité qu’explore SPREADS, un projet coordonné par Cléo Collomb, financé par l’Agence de l’innovation de défense, auquel participe Vincent Bontems, philosophe des sciences et des techniques au CEA. Le projet étudie l’hypothèse d’une corruption du savoir scientifique dans un environnement où les données et les algorithmes occupent une place croissante. Il mobilise notamment la fiction spéculative pour examiner des conflits qui prendraient la connaissance pour cible.

Le lien avec la science-fiction est présent dès la conception du projet. SPREADS s’inspire notamment de la trilogie de Liu Cixin, Le Problème à trois corps, pour envisager la corruption du savoir. Ce détour permet de poser une hypothèse difficile à examiner à partir des seuls incidents connus : que deviendrait une société si les moyens par lesquels elle établit des connaissances fiables étaient eux-mêmes pris pour cible ? La question engage la capacité à distinguer une découverte d’une impasse. Une puissance qui parviendrait à brouiller cette distinction pourrait peser sur les choix de ses adversaires sans avoir à détruire leurs laboratoires.

Le travail part d’une enquête sur les pratiques de recherche à l’Institut Pasteur. Elle vise à repérer les endroits où les méthodes numériques pourraient rendre les travaux vulnérables. La démarche consiste ensuite à confronter des scénarios d’attaque à des contre-mesures imaginées à l’INSTN-CEA, pour construire un dispositif de fiction et de jeu permettant d’explorer différentes suites possibles. L’objectif est de placer les participants devant des événements imprévus et des choix dont ils doivent examiner les conséquences.

Ce travail relie directement la protection des données à l’organisation quotidienne de la recherche. Restreindre l’accès à une base peut réduire certaines possibilités d’attaque tout en compliquant les vérifications par des chercheurs extérieurs. Le scénario permet d’examiner ce que chaque protection rend possible et ce qu’elle risque de bloquer.

On peut imaginer une équipe qui retrouve le même résultat dans plusieurs publications et décide de s’en servir pour orienter ses travaux. Cette concordance paraît rassurante. Elle l’est beaucoup moins si les publications dépendent toutes d’une même donnée défectueuse. Le problème s’aggrave lorsque cette dépendance devient difficile à reconstituer : chacun cite un travail différent, alors que tous reposent sur la même origine. Une information fragile finit ainsi par prendre l’apparence d’un savoir confirmé.

Il suffit de suivre le parcours de cette information pour comprendre la difficulté. Une équipe produit une mesure, une autre la reprend dans une base, une troisième utilise cette base pour comparer les performances de son modèle. À chaque étape, le résultat peut gagner en visibilité tandis que les conditions de sa production deviennent moins accessibles. Une référence précise donne alors une impression de solidité sans garantir une vérification indépendante. Pour évaluer cette solidité, il faut pouvoir retrouver la mesure initiale, connaître ses limites et identifier les traitements qui ont modifié sa signification.

Dans un scénario d’attaque, l’objectif pourrait être de maintenir cette erreur assez longtemps pour détourner des recherches ou retarder une décision. Les personnes qui reprennent l’information contribueraient à sa diffusion sans connaître son origine. Leur compétence et leur réputation pourraient même renforcer sa crédibilité. L’efficacité de l’opération se mesurerait alors aux mois perdus, aux expériences inutiles ou aux options abandonnées.

Pour la cybersécurité, ce scénario conduit à regarder au-delà de la disponibilité des fichiers. Un laboratoire pourrait conserver l’accès à ses outils tout en travaillant sur des données altérées. Si ces données servent ensuite à entraîner un modèle, leurs défauts risquent de se retrouver dans les résultats proposés aux chercheurs. Retrouver l’origine des données et les transformations qu’elles ont subies devient alors indispensable pour comprendre ce qui a été compromis.

Dans ce cas, une sauvegarde ne résout qu’une partie du problème. Encore faut-il savoir à quelle date la donnée a été altérée et quels résultats en dépendent. Restaurer un état antérieur peut laisser subsister des conclusions déjà reprises dans une publication, un rapport ou une décision industrielle. L’enquête doit donc suivre les usages de l’information autant que ses copies. Elle peut conduire à refaire un calcul, à suspendre une recommandation ou à prévenir une équipe qui travaille sur une hypothèse devenue douteuse. La correction technique ouvre ainsi un travail scientifique et institutionnel qui peut durer bien au-delà de l’incident.

Le rapprochement avec les hallucinations scientifiques devient ici fécond. Une erreur ne suppose pas une intervention hostile. Mais les mécanismes qui permettent à une conviction de s’installer peuvent constituer des vulnérabilités : confiance accordée à une autorité, difficulté à reproduire une expérience, coût d’une remise en cause, attachement à une explication prometteuse. Un résultat auquel une équipe a consacré plusieurs années sera souvent plus difficile à abandonner qu’une hypothèse encore neuve.

Cette hypothèse d’attaque exige cependant de conserver une discipline d’enquête. Un résultat surprenant, une erreur de calcul ou une expérience impossible à reproduire ne suffisent pas à établir un sabotage. Conclure trop vite à une intervention hostile pourrait détourner les chercheurs de leurs propres erreurs et rendre les désaccords suspects. La préparation doit donc aider à comparer plusieurs explications et à chercher les indices qui permettraient de les départager. La vigilance devient utile lorsqu’elle organise une vérification. Si elle transforme chaque contradiction en signe de menace, elle risque de fragiliser le travail scientifique qu’elle entend protéger.

La fiction permet d’examiner ces situations en suivant les acteurs dans la durée. Un chercheur reçoit un résultat, un responsable décide de financer une piste, un collègue formule une objection. Chacun dispose d’informations différentes et doit agir avant de tout savoir. Le scénario fait apparaître les moments où une vérification devient possible, ceux où elle est reportée et les raisons pour lesquelles une alerte reste sans effet.

On peut alors construire une situation dans laquelle personne ne possède toutes les informations. Le chercheur voit une anomalie dans ses résultats, le responsable informatique constate une modification inhabituelle et la direction attend une réponse avant de financer la suite. Le problème apparaît lorsque ces observations restent séparées. L’exercice permet d’examiner qui peut interrompre le travail, qui rassemble les éléments et comment une objection devient recevable malgré le calendrier. Il fait aussi ressortir les coûts d’une décision : suspendre une recherche peut être justifié, mais cette suspension doit pouvoir être expliquée, réévaluée et levée lorsque les vérifications le permettent.

Pour préparer les équipes, on peut par exemple les confronter à des sources apparemment indépendantes, avant de leur faire découvrir leur origine commune. Le travail consiste à reprendre l’enquête : retrouver les données initiales, chercher une confirmation extérieure, réviser une conclusion et expliquer ce changement aux personnes qui s’y étaient fiées. Il faut aussi examiner ce qui bloque cette correction, notamment lorsque des engagements financiers ou institutionnels ont déjà été pris.

Le débriefing doit permettre de reconstituer le chemin de la correction. Il faut regarder le moment où le doute apparaît, les informations disponibles à cet instant et la raison pour laquelle l’équipe poursuit ou suspend son travail. Une bonne décision ne se confond pas nécessairement avec une alerte rapide : multiplier les soupçons peut épuiser les capacités de contrôle. L’évaluation porte aussi sur les conséquences de l’erreur. Les participants doivent expliquer quelles conclusions ils maintiennent, lesquelles ils révisent et qui doit en être informé. Ce retour permet de repérer les vérifications utiles, les responsabilités mal définies et les échanges qui ont manqué. Il donne des éléments concrets pour modifier les pratiques de recherche de chaque équipe après l’exercice.

La valeur d’un tel exercice dépend de ce que les participants sont capables de vérifier après la séance. Le récit peut faire apparaître une vulnérabilité et aider à formuler une procédure. Il reste ensuite à éprouver cette procédure sur les outils et les pratiques réels du laboratoire. Une procédure doit rester praticable lorsque les équipes manquent de temps.

Les Utopiales donnent à ces questions un cadre particulièrement stimulant, parce que la science et la fiction y interrogent ensemble les conditions de la connaissance. Pour la défense, l’enjeu est concret : une organisation doit pouvoir découvrir qu’elle s’est trompée et continuer à agir. Protéger le savoir suppose donc de préserver les moyens de le vérifier, mais aussi la possibilité de contredire une conclusion devenue commode.