Magnifica Humanitas : IA « opaque et unilatérale » ou « orientée vers le bien commun », qui choisit ses valeurs ?

Une IA plus « morale » peut-elle devenir politiquement dangereuse ? Cet apparent paradoxe est au cœur de Magnifica Humanitas. 

L’encyclique de Léon XIV consacrée à l’intelligence artificielle ne se contente pas d’appeler à réguler les modèles, à limiter les deepfakes ou à protéger l’emploi à l’ère de l’IA, comme Rerum Novarum l’avait fait il y a 135 ans, à l’époque de la deuxième révolution industrielle. Elle pose une question plus profonde : qui décide des valeurs qui structurent des systèmes lesquels, chaque jour davantage, classent nos demandes, hiérarchisent nos informations, filtrent nos contenus, notent nos risques, guident nos choix et nos relations ? 

« Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. » (§107), tranche le Pape. En effet, selon lui, « nous ne pouvons pas nous contenter d’invoquer la moralisation de la machine, ce qu’on appelle “l’alignement” de l’IA sur les valeurs humaines, sans avoir le courage de poser une condition supplémentaire : la possibilité de débattre du code éthique à utiliser, en le soumettant à des critères de justice sociale partagés ».

Dans le vocabulaire de la Silicon Valley, l’alignement désigne essentiellement une opération de sécurité : faire en sorte qu’un modèle n’aide pas à fabriquer une arme, ne manipule pas son utilisateur, ne produise pas de conseils dangereux, bref, ne sorte pas du cadre fixé par ses concepteurs. Pour Léon XIV, la question est de savoir qui fixe ce cadre. C’est la force de l’encyclique : elle ne traite pas l’IA comme un simple outil, mais comme une puissance sociale structurante qui « n’est pas neutre, car elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent » (§9).

Un pouvoir qui « tend à devenir opaque et à échapper au contrôle public »

Une réalité d’autant plus vive que les systèmes deviennent centraux : loin d’être un gadget conversationnel, l’IA générative façonne de plus en plus l’école, le travail, le droit, le soin, la relation client, la cybersécurité, les médias, la propagande, la guerre, la décision administrative. Elle devient une interface entre l’individu et le savoir, entre le citoyen et l’espace public, entre l’entreprise et ses risques, entre l’État et ses décisions civiles et militaires. Or, « tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations » (§104). En effet, l’IA ne se contente pas de transporter des données, de calculer, elle organise le monde selon des critères, une définition implicite de ce qui compte, en somme, une ontologie, selon le vocabulaire de Palantir.

« Un grand pouvoir implique de grandes responsabilités », pour reprendre les termes de Marlène Schiappa… ou Spiderman. Un pouvoir que Léon XIV se refuse à voir réparti de manière aussi inégale. Il constate en effet que les moteurs du développement technologique sont désormais « des acteurs privés, souvent transnationaux, dotés de ressources et de capacités d’intervention supérieures à celles de nombreux gouvernements » (§5) et que « lorsqu’un pouvoir d’une telle ampleur se concentre entre quelques mains, il tend à devenir opaque et à échapper au contrôle public » (§95), voire à devenir un fief entre les mains de seigneurs de la tech.

Concrètement, ceux qui possèdent « le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul » fixent « les conditions d’accès, les règles de visibilité et les possibilités de participation » (§95) et donc aussi une part croissante du pouvoir de dire ce qui sera visible, acceptable, dangereux, vrai ou faux.

« Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain »

C’est ici que Magnifica Humanitas dépasse les débats habituels sur les biais des IA. Ils sont réels, mais ne sont qu’une partie du problème : corriger un biais raciste, sexiste, violent, etc., ou une hallucination ne suffit pas si l’ensemble du système reste gouverné par des critères moraux opaques, définis par quelques acteurs oligopolistiques.

Cependant, l’encyclique ne vise pas que cette couche invisible, mais aussi les usages bien réels de l’IA. Ainsi, le mot le plus commenté du texte est-il sans doute « désarmer », qu’il ne faut pas réduire aux armes autonomes : « Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. » (§110). Léon XIV précise sa pensée : « Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain », alors que « l’IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer ».

C’est le cœur du problème : un outil se débranche, alors que l’on vit dans un environnement, il façonne nos gestes, nos réflexes, nos attentes, nos vulnérabilités. Une réalité que nos lecteurs connaissent bien : en cybersécurité, on sait qu’un système n’est jamais qu’une application isolée, il est fait de dépendances, d’identités, de permissions, de fournisseurs, de données…

L’IA ajoute une couche cognitive et presque sensible à cette surface d’attaque : l’encyclique note ainsi que l’IA peut imiter « des paroles de conseil, d’empathie, d’amitié, d’amour » (§100). Cette imitation peut être utile, mais elle peut aussi donner « l’illusion d’être en relation avec un sujet personnel authentique ». Au-delà de la « tromperie sur la marchandise », le risque est que l’homme « perde le désir même de rechercher véritablement l’autre ».

« Il est essentiel que les responsabilités soient clairement définies »

On peut lire ce passage comme une méditation spirituelle sur la solitude, mais, dans le monde cyber, il prend une dimension opérationnelle : une IA capable de simuler l’attention, la bienveillance, la proximité ou l’urgence devient un outil de manipulation personnalisée. Elle « accélère la cybercriminalité », soulignait Michaël De Laet, chef d’équipe du Centre européen de lutte contre la cybercriminalité (EC3) d’Europol lors du Forum INCYBER 2026. Il mentionnait dans une table ronde des agents IA capables de repérer des cibles sur LinkedIn, de rédiger des messages de spear phishing en deux minutes, voire d’engager des conversations d’approche… Ce n’est plus seulement une fraude automatisée, c’est la relation humaine elle-même qui devient industrialisable. Le faux n’est plus seulement un contenu, il devient une relation crédible.

Pour y parer, « il est essentiel que les responsabilités soient clairement définies à chaque étape : depuis ceux qui conçoivent et programment les systèmes jusqu’à ceux qui les utilisent ou ceux qui décident de leur confier des choix concrets » (§105), estime Léon XIV. Dans le contexte d’opacité générale qui entoure l’IA, « la responsabilité devient décisive, à savoir la possibilité d’identifier qui doit “rendre compte” des décisions, les motiver, les contrôler et, si nécessaire, les contester et réparer les dommages qui en dérivent ».

L’éthique de l’IA ne peut donc pas être un gimmick de communication, « il faut des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas son devoir » (§106).

Des acteurs tech qui exercent « un pouvoir de fait sur les conditions de la vie en communauté »

Une IA gouvernable doit pouvoir être expliquée, auditée, corrigée, contestée, attribuée. Une décision automatisée qui touche au travail, au crédit, aux services, à la réputation ou à la sécurité ne peut pas rester enfermée dans une boîte noire. Une préoccupation qui rejoint celle de la cyber : la responsabilité – morale ou opérationnelle – n’existe pas sans cartographie des dépendances et des risques. On ne gouverne pas ce que l’on ne peut pas voir.

Une démarche qui se traduit concrètement dans Magnifica Humanitas par une application à l’IA du principe de subsidiarité. Traditionnellement, ce dernier sert à protéger les personnes, familles, communes ou corps intermédiaires contre l’absorption par l’État. Ici, « le niveau supérieur n’est pas l’État, mais chaque grand acteur économique et technologique exerçant un pouvoir de fait sur les conditions de la vie en communauté » (§71). Léon XIV préconise que « ces processus ne soient pas imposés d’en haut de façon opaque et unilatérale, mais qu’ils soient orientés vers le bien commun à travers la transparence, la responsabilité et des formes réelles de participation (contrôles indépendants, transparence sur les algorithmes, accès équitable aux données, dispositifs de recours) ».

Autant de préoccupations qui recoupent celles des professionnels soucieux d’un monde numérique sain et sûr. Le parallèle avec le DSA est éclairant. Ce règlement affirme vouloir lutter contre les « risques systémiques » liés à la liberté d’expression, au pluralisme des médias, à la sécurité publique et aux processus électoraux, mais ses critiques craignent qu’il ne renforce le pouvoir de censure des plateformes et des instances européennes. Voilà le dilemme que l’encyclique aide à formuler : protéger la vérité est nécessaire, mais déléguer aux plateformes la définition du publiable, du vrai et du faux, risque d’aggraver le problème que l’on prétend résoudre.

Pour une « écologie de la communication »

Cette question de la vérité est naturellement centrale pour une institution qui affirme être le dépositaire de sa révélation dans le domaine spirituel. Pour le monde profane, cependant, Magnifica Humanitas se montre plus mesurée : « La vérité est un bien commun, et non la propriété de ceux qui détiennent le pouvoir ou la visibilité » (§137). Or, « la désinformation n’est pas née avec l’IA, mais elle trouve aujourd’hui en elle un puissant multiplicateur » (§132), rappelle Léon XIV. Une préoccupation qui fait écho à celles soulevées lors d’une table ronde du Forum INCYBER 2026 par Jérôme Nevicato, lieutenant-colonel de réserve affecté au COMCYBER-MI (Commandement du ministère de l’Intérieur dans le cyberespace) : « On a vraiment basculé dans une ère d’industrialisation de la tromperie. »

Un danger majeur alors que « la recherche de la vérité est un élément essentiel de la démocratie » (§132), un cri d’alarme qui pourrait sembler convenu. Ce n’est pourtant pas le cas, car l’encyclique ne propose pas un ministère de la Vérité automatisé, mais au contraire à une « écologie de la communication » (§137) : transparence des logiques d’amplification, protection des données, journalisme sérieux, lieux de débat serein, éducation critique, vérification des faits, « formation à l’utilisation correcte et critique des outils numériques, de l’IA… » Autrement dit, la vérité dépend d’institutions, de pratiques, de confiance et de contre-pouvoirs.

En cela, Magnifica Humanitas est plus intéressante qu’un simple texte pontifical contre les excès de l’IA. Elle n’appelle pas qu’à réguler les machines, mais demande qui aura le droit de définir ce qu’elles considèreront comme sûr, vrai, juste, humain, dangereux, prioritaire ou acceptable. Si elle reconnaît les apports de l’IA, l’encyclique refuse de confier sa morale à ceux qui possèdent déjà les modèles, les données, les plateformes et le calcul.

L’enjeu n’est donc pas de savoir si l’IA sera morale ou non, mais de savoir si sa morale sera démocratiquement discutable ou privatisée dans l’infrastructure. Une IA alignée par quelques-uns peut devenir une domination douce : polie, utile, efficace, rassurante, mais structurante. Une IA vraiment humaine devrait être autre chose : un environnement habitable, c’est-à-dire compréhensible, contestable, gouvernable, partageable. En langage pontifical, « la MAGNIFIQUE HUMANITÉ créée par Dieu se trouve aujourd’hui face à un choix décisif : ériger une nouvelle tour de Babel ou bâtir la cité où Dieu et l’humanité habitent ensemble ». (§1)