Dossier Quel avenir nous préparent les seigneurs de l’IA ? (1/5)

Quand l’IA demande l’absolution : Anthropic au Vatican

L’Église catholique au secours de l’IA ? À l’occasion de la publication de la première encyclique consacrée au sujet, Léon XIV a invité Christopher Olah, cofondateur d’Anthropic. Au-delà des questions morales sur lesquelles le Pape et le baron de la tech ont échangé, cette rencontre est l’occasion d’examiner l’avenir que dessinent les seigneurs de l’IA. Sam Altman, Dario Amodei, Alex Karp et Elon Musk incarnent chacun une vision de ce monde, qui ressemble fort à un néoféodalisme.

Christopher Olah au Vatican aux côtés de Léon XIV, la scène a quelque chose d’irréel. Le 25 mai 2026, la plus ancienne autorité morale occidentale dialogue avec le cofondateur d’Anthropic, laboratoire qui développe Claude et se targue d’être le pôle prudent de l’IA générative.

Certes, la machine ne se confesse pas encore, mais ses créateurs inquiets sollicitent un jugement extérieur. Olah affirme que le développement de l’IA ne peut pas être « laissé aux seules entreprises technologiques » et qu’il existe une « réelle possibilité » que l’IA déplace le travail humain « à très grande échelle ». Il ajoute que « si cela arrive, soutenir les personnes déplacées sera un impératif moral d’une ampleur historique ». Une position que réfute partiellement Léon XIV dans Magnifica Humanitas, son encyclique consacrée à l’IA. Si elle confirme que le chômage est une « véritable calamité sociale » et admet qu’il est « réaliste de craindre une contraction significative et rapide des emplois disponibles » (§151), elle estime que « les aides économiques aux pauvres restent parfois nécessaires dans les situations d’urgence, mais elles ne peuvent devenir la seule réponse, car l’objectif est de permettre à chacun de vivre dignement grâce à son travail » (§149).

Mais le point le plus dérangeant n’est peut-être pas là. Dans le discours qu’a prononcé Chris Olah à l’occasion de la sortie de l’encyclique, il franchit une ligne rouge, mentionnant des éléments « mystérieux, même troublants » observés par son équipe, qui étudie la structure interne des modèles.

Le Pape « appelle à la prudence »

Il évoque des structures qui « reflètent des résultats issus des neurosciences humaines » : « nous trouvons des états internes qui reflètent fonctionnellement la joie, la satisfaction, la peur, le chagrin et le malaise ». Il ne dit pourtant pas que les modèles ressentent des émotions ou ont acquis une conscience et avoue humblement qu’il « ne sait pas ce que cela signifie, mais pense que cela mérite une réflexion continue ». Si Léon XIV estime aussi que ces questions méritent « un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel » (§98), il tranche sur le fond quand il écrit que « les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur » (§99).

Ce dialogue fécond traduit aussi une vraie inquiétude. Olah confesse que « chaque laboratoire d’IA de pointe […] opère à l’intérieur d’un ensemble d’incitations et de contraintes qui peuvent parfois entrer en conflit avec le fait de faire ce qui est juste ». Dans son collimateur, pressions commerciales, géopolitiques ou personnelles. Un contexte tendu alors que « les choses avancent vite » et que la « technologie [est] vraiment puissante ». Une inquiétude qui fait écho à celle du Pape quand il écrit qu’« appeler à la prudence, à des contrôles rigoureux et parfois même à un ralentissement dans l’adoption de l’IA ne signifie pas être contre le progrès, mais faire preuve d’une attention responsable envers la famille humaine » (§106). 

L’IA, couche de médiation bientôt vitale

Qu’un Pape s’empare du sujet de l’IA est inédit, mais peut-être moins qu’un ingénieur de premier rang qui admet publiquement que ses confrères et lui-même ne suffisent plus à gérer la question.

Ce basculement tient à la nature même de l’objet. L’IA n’est pas un logiciel que l’on installe ou un moteur de recherche amélioré, c’est une couche de médiation, qui intervient dans la connaissance, l’écriture, la programmation, la recherche scientifique, la sécurité, le renseignement, la médecine, la guerre, l’éducation, les relations affectives… peut-être demain la mémoire des morts et l’accompagnement des vivants. La fiction l’avait compris avant les discours politiques. Dans la nouvelle de 1909, La machine s’arrête (Éd. L’échappée), la machine n’est pas un simple outil, mais le milieu dans lequel les humains respirent, pensent et se parlent. Troublant d’actualité. Dans le cycle de romans de La Culture, la question est presque inversée : que reste-t-il du politique quand des intelligences supérieures savent mieux que les humains comment organiser l’abondance ?

C’est ici que la grille de Joel Kotkin devient utile. Dans The Coming of Neo-Feudalism, (Éd. Encounter Books, 2020), il ne décrit pas un retour aux serfs attachés à la glèbe ou aux seigneurs héréditaires, mais une pente vers une nouvelle forme de féodalité : montée d’une oligarchie technologique, nouvelle classe de clercs, extension d’une population dépendante, ni propriétaire, ni mobile. Avec ces nouveaux premiers, seconds et tiers états, c’est la classe moyenne, autonome et propriétaire, qui tend à disparaître.

L’IA produit-elle des citoyens ou des serfs dépendants d’un fief ?

Transposée à l’IA, la question n’est pas de savoir si Sam Altman, Dario Amodei, Alex Karp ou Elon Musk se rêvent en barons médiévaux, ils sont déjà maîtres en leur fief. Quels sont les nouveaux territoires sur lesquels ils règnent ? Dans l’économie agricole, la terre concentrait la survie, le revenu, l’autorité. Dans l’économie de l’IA, ce rôle est dévolu à la puissance de calcul, aux datacenters et aux satellites, aux modèles et aux données, aux logiciels de défense et aux API, aux robots… Celui qui possède ces couches ne possède pas qu’une entreprise, mais un passage obligé.

Joel Kotkin distingue quatre idéaux types : les nouveaux oligarques qui détiennent les actifs décisifs ; le néo-clergé (experts, universitaires, juristes, consultants, communicants, ingénieurs…), qui légitime l’ordre nouveau ; la yeomanry, cette classe moyenne propriétaire, indépendante, productive, pilier historique de l’autonomie civique, qui recule ; et enfin les nouveaux serfs, qui ne sont pas nécessairement misérables. Ils peuvent être connectés, servis, assistés, subventionnés, divertis, mais ils dépendent d’accès qu’ils ne gouvernent ou ne possèdent pas. C’est l’un des nœuds de ce dossier : l’IA produit-elle des citoyens capables de posséder, contester et sortir ou des usagers dépendants d’un fief ?

La pente néo-féodale

Le schéma montre :

• Sur un axe horizontal, qui prétend légitimer le pouvoir : le peuple, l’État, l’expert, le fondateur, le marché, la sélection
• Sur un axe vertical, comment ce pouvoir s’exerce, de la dépendance douce à la contrainte dure.

Il permet de mettre en évidence les différentes modalités de néoféodalisme auxquelles nous rattachons les visions de Sam Altman, Dario Amodei, Alex Karp et Elon Musk. En effet, le fief du XXI^e siècle peut être un territoire privé, mais aussi un compte, une API, un robot, un cloud, un satellite, un modèle d’IA ou une plateforme de parole.

L’audition d’Olah au Vatican donne à cette question un visage presque théologique. Le cofondateur d’Anthropic pointe trois inquiétudes : l’interprétation de comportements de systèmes de plus en plus opaques, l’emploi, le partage mondial des bénéfices : « Le développement de l’IA est concentré dans une poignée de nations riches. Comment pouvons-nous garantir que les gains de l’IA soient partagés mondialement ? », se demande-t-il. 

Une nation cognitive sans peuple, sans suffrage, sans Parlement

Il fait écho au Pape quand ce dernier écrit que « le pouvoir technologique prend ainsi un visage inédit, essentiellement privé, et donc d’autant plus difficile à cerner, à réguler et à orienter vers le bien commun » (§5). Et Olah d’ajouter : « Nous n’avons pas de mécanisme pour cela. » Le problème n’est donc pas seulement pour lui l’alignement technique, mais l’alignement social : qui gagne, qui perd, qui comprend, qui décide, qui subit… qui distribue l’aumône.

Dario Amodei pousse cette inquiétude beaucoup plus loin. Dans The Adolescence of Technology, le PDG et cofondateur d’Anthropic décrit une IA puissante comme un possible « pays de génies dans un datacenter ». Une telle entité, explique-t-il, pourrait conseiller un pays, un groupe ou un individu sur la stratégie géopolitique, une sorte de « Bismarck virtuel ». Dans cet essai, Amodei envisage des systèmes capables de travailler à des vitesses très supérieures aux nôtres, et traite l’IA comme une puissance stratégique transversale. Son image est saisissante : un pays de génies, mais sans territoire visible, installé dans un centre de données. Une nation cognitive sans peuple, sans suffrage, sans Parlement. Qui la possède ? Qui l’arrête ? Qui lui donne ses objectifs ?

C’est vertigineux, mais c’est pourtant le fief cognitif dans sa version prudente : Anthropic ne revendique pas de domination brutale. Au contraire, Olah et Amodei incarnent une inquiétude réelle, ils parlent d’opacité, de risques totalitaires, de biologie, de cyber, de décision stratégique, de garde-fous.

Une citoyenneté sur abonnement ?

Pourtant, la prudence n’abolit pas la question féodale, elle la déplace. Même un laboratoire inquiet reste un laboratoire central. Même l’ingénieur qui demande des avis extérieurs conserve la clef de la machine qui rend ces voix nécessaires. La scène du Vatican est donc ambiguë : elle élargit le cercle moral, mais elle rappelle aussi que le centre technique demeure dans les mains de quelques-uns, une noblesse qui s’appuie sur le clergé, en somme.

Sam Altman, et OpenAI, la société dont il est le PDG, occupent une autre position sur cette carte, avec une vision plus économique. Dans Politique industrielle pour l’ère de l’IA, OpenAI propose de créer un « fonds de richesse publique » donnant à chaque citoyen, « y compris ceux qui ne sont pas investis sur les marchés financiers », une participation à la croissance économique tirée par l’IA. Le document précise que ce fonds viserait au partage direct des bénéfices de cette croissance. OpenAI suggère aussi de moderniser la base fiscale, d’accroître les revenus publics tirés du capital et de créer des incitations pour que les entreprises retiennent, reconvertissent et investissent dans les travailleurs.

OpenAI admet donc implicitement que le marché seul ne suffira pas, mais n’abolit pas la question de la propriété : recevoir un dividende n’est pas posséder l’infrastructure, avoir un droit d’accès n’est pas contrôler les règles de l’accès. Recevoir l’aumône d’un fonds public n’est pas devenir copropriétaire des modèles ou des infrastructures. C’est pourquoi la vision d’Altman peut être lue comme un État social sous cloud, une forme de despotisme éclairé et bienveillant, moins brutal que la coercition, plus protecteur que le laissez-faire, mais exposé au risque d’une citoyenneté sur abonnement.

Vassalisation opérationnelle

De son côté, Alex Karp, PDG de Palantir, place le curseur sur la notion de puissance. Dans leur article Our Oppenheimer Moment, Karp et Nicholas Zamiska, responsable des affaires internes de Palantir, écrivent que la capacité des sociétés libres et démocratiques à l’emporter exige « du hard Power, et le hard Power de ce siècle sera construit sur du logiciel ». Cette phrase résume presque toute la vision de Palantir : le logiciel n’est pas qu’un outil économique, il devient le substrat de la dissuasion, de la guerre et de la survie politique. Outre le plaidoyer pro domo, Karp pose un vrai problème : les démocraties ne peuvent pas décréter que leurs adversaires renonceront aux armes algorithmiques par respect de nos valeurs. Comme il le souligne dans son manifeste publié sur X, synthèse de son ouvrage The Technological Republic (Éd. Crown, 2024), « La question n’est pas de savoir si les armes d’IA seront construites ; elle est de savoir qui les construira et dans quel but ».

Mais ce pragmatisme ouvre la porte à un autre fief, régalien cette fois. Si le renseignement, la fusion de données, la police, l’armée, le ciblage, l’aide à la décision et, demain, la guerre logicielle, reposent sur des plateformes privées, l’État conserve le sceau du souverain, mais loue tout ou partie de son cerveau, de ses yeux et de ses muscles. Le danger n’est pas que dans la surveillance de masse, il réside surtout dans la vassalisation opérationnelle : une démocratie peut rester souveraine en droit et dépendante en pratique.

Il y aura « beaucoup de traumatismes et de perturbations en chemin »

Elon Musk, lui, occupe le bord extérieur de cette carte. En un sens, sa vision, moins structurée que celle des autres technolords, se résume à la notion de frontière : X pour la parole publique, xAI et Grok pour une IA présentée comme plus vraie, Tesla et Optimus pour la robotique et la production, Starlink pour la connexion, SpaceX pour l’espace, Neuralink pour l’interface cérébrale. Musk promet toutes les ruptures : sortir de la Terre, du travail contraint, de la rareté, de la censure, de certaines limites biologiques, peut-être. Il a ainsi déclaré à propos de l’avenir de l’IA et de la robotique : « Dans un scénario favorable, nous aurons un revenu universel élevé. » Il ajoute que « n’importe qui pourra avoir tous les produits ou services qu’il veut », tout en reconnaissant qu’il y aura « beaucoup de traumatismes et de perturbations en chemin ». Pourtant, on en revient toujours au même point : chaque sortie passe par « des acteurs privés, souvent transnationaux, dotés de ressources et de capacités d’intervention supérieures à celles de nombreux gouvernements », comme les décrit le Pape dans son encyclique (§5). Musk, en l’occurrence.

Est-ce à dire qu’il incarne la figure d’un technofascisme naissant, comme l’entendent Nastasia Hadjadji et Olivier Tesquet dans leur ouvrage Apocalypse Nerds (Éd. Divergences, 2025) ? La vision semble militante… et peu paresseuse au regard de la complexité du personnage, certes réactionnaire par certains aspects, mais bâtisseur industriel unique.

Technofascisme ou techno féodalisme ?

L’ouvrage livre cependant des clefs utiles quand il explique que l’idéologie tech radicalisée fonctionne comme une API, par modules branchables : anti-bureaucratie, exit, transhumanisme, guerre culturelle… qui explique comment Musk et les autres technobarons se jouent des contradictions apparentes de leur discours. Avec les Lumières sombres (Éd. Gallimard, 2026), Arnaud Miranda aide à comprendre la grammaire néoréactionnaire qui irrigue désormais une partie du monde de la tech américaine : l’État-entreprise, le fantasme post-politique, l’efficacité contre la délibération.

Ces quatre visions ne se superposent donc pas. Amodei et Olah veulent contenir le danger ; Altman veut distribuer l’accès ; Karp veut armer l’Occident ; Musk veut ouvrir la frontière. Pourtant, toutes reconduisent la même interrogation kotkinienne. Qui possède les moyens de l’intelligence, la sécurité, l’abondance ? Nous ne prenons pas le chemin d’un monde où les modèles, les robots, les satellites ou les logiciels de défense seront gouvernés comme des communs : ils ressemblent plutôt à des fiefs. 

Le danger est que la société se réorganise autour de propriétaires d’infrastructures. Une IA indispensable à l’école, au travail, à la guerre, à la santé, à la parole publique ou au lien social n’est plus un produit, mais une condition d’existence. Et lorsqu’une condition d’existence appartient à quelques acteurs, la vieille question féodale revient sous des habits neufs : serons-nous des citoyens capables de posséder et de contester la terre nouvelle ou des usagers autorisés à la cultiver tant que le seigneur en maintient l’accès ouvert ?