Veronica Roth et la fabrique numérique de l’obéissance

On connaît Veronica Roth pour Divergente, ses factions et son adolescente réfractaire. Invitée aux Utopiales 2026, la romancière mérite aussi d’être lue pour Poster Girl, où une ancienne bénéficiaire du pouvoir doit apprendre à vivre sans la surveillance qui réglait son existence. Entre ces deux livres se dessine une question très actuelle pour la sécurité numérique : que devient notre jugement lorsque nous prenons l’habitude d’être évalués ?

Par Jean Langlois-Berthelot

Le samedi 31 octobre, à 11 h 45, le programme des Utopiales réunissait Veronica Roth, Katia Lanero Zamora et Claire North pour une table ronde intitulée « Observer pour contrôler », animée par Caroline de Benedetti. La présentation mettait en discussion l’anonymat, la pression sociale et ce regard collectif qui pèse sur les conduites sans avoir toujours besoin de la loi. À 16 h 15, Roth était de nouveau à l’affiche de la scène Shayol, pour « Comment est votre rébellion ? ». Il y était notamment question des lendemains d’une révolution.

Ces deux sujets traversent ses romans. On y rencontre des institutions qui prétendent donner à chacun une place, des personnages qui leur résistent et d’autres qui ont longtemps trouvé cet ordre rassurant. C’est ce dernier cas qui me paraît particulièrement intéressant pour les lecteurs d’INCYBER Nous savons reconnaître la menace d’un dispositif hostile. Nous avons davantage de mal à examiner le pouvoir d’un outil dont nous apprécions les services, surtout lorsqu’il nous renvoie une image flatteuse de nous-mêmes.

Tris devant les catégories

Dans Divergente, Beatrice Prior a seize ans. Elle doit choisir l’une des cinq factions entre lesquelles sa société répartit les habitants, chacune vouée à une qualité humaine. Son choix engage sa vie entière et peut l’éloigner de sa famille. Devenue Tris, elle affronte ensuite une initiation faite d’épreuves physiques et de simulations psychologiques. Les catégories sont simples ; l’expérience qu’elle en fait l’est beaucoup moins.

Roth prend au sérieux cette difficulté de l’adolescence : on vous demande de choisir ce que vous serez alors que vous commencez à peine à vous connaître. Elle lui donne une portée politique. La faction définit les qualités attendues de ses membres, et l’épreuve vérifie qu’ils s’y conforment. Le lecteur peut alors se demander ce que mesure réellement l’institution. Cherche-t-elle à connaître les individus, ou à s’assurer qu’ils tiendront le rôle prévu pour eux ?

Un profil numérique peut soulever une difficulté comparable. Prenons un service qui bloque une opération inhabituelle. L’alerte peut éviter une fraude ; personne ne souhaite s’en priver. Mais il faut qu’un usager puisse aussi expliquer pourquoi son comportement a changé. Un déménagement, une urgence familiale ou un voyage peuvent suffire à rendre sa journée peu conforme à son historique. Si aucune explication ne peut être entendue, le profil finit par avoir plus d’autorité que la personne qu’il décrit. La décision devient alors difficile à corriger, même quand les informations nécessaires sont disponibles.

Sonya a vécu du bon côté de la surveillance

Poster Girl, paru en 2022, est plus embarrassant pour son lecteur. Sonya Kantor a été le visage public de la Délégation. Ce régime imposait aux habitants de la mégalopole Seattle-Portland un implant oculaire, l’Insight, qui enregistrait leurs paroles et leurs actes. Des récompenses ou des sanctions traduisaient chaque conduite dans le langage moral du pouvoir. Au début du roman, la Délégation est tombée et Sonya est emprisonnée depuis dix ans. Retrouver une enfant disparue pourrait lui rendre la liberté.

Sonya n’a donc pas le passé d’une résistante. Elle a appartenu au monde qui surveillait, et ce monde lui avait accordé une place enviable. Dans son entretien publié dans The Big Thrill, Roth explique qu’elle voulait suivre un personnage occupé à démêler les habitudes mentales laissées par l’ancien régime. L’enquête oblige Sonya à revoir ce qu’elle avait accepté. À mesure qu’elle découvre ce que son univers dissimulait, elle doit aussi renoncer à certaines des raisons qu’elle avait de l’aimer.

Roth revient sur cette adhésion à la surveillance lorsqu’elle s’adresse à Northwestern Magazine, à l’hiver 2023. Elle souligne que l’on peut accueillir un pouvoir autoritaire pour les bénéfices qu’on en attend. Le propos éclaire le malaise de Poster Girl. Être bien noté donne une satisfaction ; savoir ce qui sera récompensé dispense d’une partie du doute. Une personne peut ainsi s’attacher à l’évaluation elle-même. Que fera-t-elle quand il lui faudra juger une situation sans attendre le verdict du dispositif ?

Cette question mérite de rester présente lorsque l’on conçoit un service numérique. Un outil apprécié peut être devenu difficile à refuser. Pour mesurer cette dépendance, il faut regarder ce qui arrive à l’usager qui veut s’en passer : garde-t-il accès au service ? Peut-il obtenir l’examen d’une décision sans se soumettre à une collecte supplémentaire ? Les réponses comptent davantage qu’une déclaration générale sur la confiance. Elles disent quelle marge de choix subsiste dans l’usage quotidien.

La sécurité au service de qui

Imaginons maintenant un Insight techniquement irréprochable. Personne ne parvient à s’y introduire, les données ne fuient pas et les calculs sont exacts. La Délégation en serait sans doute satisfaite. Les habitants, eux, resteraient soumis aux règles qu’elle a fixées. L’exercice fait apparaître une limite de notre vocabulaire : la sécurité du système ne suffit pas à établir celle des personnes. Il faut encore savoir qui dispose de ses capacités et ce qu’il est autorisé à en faire.

Une analyse des risques doit donc pouvoir examiner les usages prévus. Une information recueillie pour sécuriser une opération peut-elle être réutilisée pour évaluer la fiabilité générale d’un client ? Qui peut modifier les critères, et avec quelles conséquences pour les personnes déjà classées ? Ces décisions ont des auteurs, même lorsque l’interface ne les montre pas. Les rendre identifiables et conserver la possibilité d’une révision sont des exigences de conception aussi concrètes que la protection des accès.

Dans sa prise de position du 19 juillet 2022 sur les caméras augmentées, la CNIL insistait sur la différence entre filmer une personne et l’analyser automatiquement. Elle évoquait les modifications de comportement qu’une surveillance généralisée pourrait provoquer et demandait de fixer des limites à la notation des personnes. C’est un point de rencontre précis avec le roman de Roth. L’observation change de nature lorsque le résultat de l’analyse sert à accorder un avantage, à refuser une possibilité ou à imposer une sanction.

Ce que récompense une simulation

Les épreuves psychologiques de Divergente invitent à déplacer encore le regard, cette fois vers ceux qui construisent les situations. Une simulation donne à voir un monde, mais elle distribue aussi les possibilités d’y agir. Son concepteur choisit les informations disponibles et les conséquences des décisions. Il peut donc récompenser une conduite sans avoir clairement exposé le jugement qui la rend souhaitable.

C’est une difficulté que je retiens pour l’entraînement à la décision. Dans un exercice cyber, par exemple, nous pourrions vouloir mesurer le temps nécessaire à un responsable pour réagir. Mais que faire s’il ralentit parce qu’il a repéré une contradiction et cherche à vérifier un ordre ? Lui retirer des points reviendrait peut-être à sanctionner la prudence que nous souhaitons développer. Il faut lire les raisons de son choix avant d’interpréter sa performance.

Un exercice devrait ainsi réserver une place au désaccord avec le scénario. Le participant peut avoir vu ce que les concepteurs ont oublié ; il peut aussi s’être trompé. Dans les deux cas, la discussion apprend quelque chose. Un score seul efface cette différence. Tris rend sensible le coût d’une épreuve qui exige que chacun se laisse définir par elle. Sonya permet de comprendre pourquoi, malgré ce coût, on peut finir par chercher l’approbation du système.

Vivre après le dispositif

Roth aurait pu arrêter Poster Girl à la chute de la Délégation. Elle choisit les années qui suivent. Dans The Big Thrill, elle explique son intérêt pour ce qui arrive après les événements auxquels les récits accordent habituellement leur dénouement. Ce choix donne du poids à la question des lendemains de la rébellion, inscrite au programme nantais. Pour Sonya, la disparition de l’ancien pouvoir ne règle ni la responsabilité de ceux qui l’ont servi ni la difficulté de porter un jugement sur son propre passé.

Un système numérique laisse lui aussi des conséquences après son retrait. Ses évaluations ont pu fermer des portes ; ses données peuvent continuer à circuler. Préparer sa fin demande donc de prévoir le réexamen des décisions et le sort des informations conservées. Il faut également que les usagers puissent continuer à accéder au service. Ce travail paraît moins séduisant qu’un lancement, mais il dit beaucoup du pouvoir que l’on a confié à l’outil.

C’est ce que je trouve précieux chez Veronica Roth : elle s’attarde sur ceux qui doivent vivre avec les conséquences d’un ordre bien organisé. Tris cherche sa place sans accepter d’être entièrement définie par elle. Sonya doit revenir sur un monde qui lui convenait. Pour qui conçoit ou protège des systèmes numériques, ces personnages gardent une utilité très concrète. Ils obligent à considérer aussi l’expérience de celui qui ne correspond plus au profil, qui conteste une évaluation ou qui demande simplement à partir.