Dans le cadre du mois européen de la cybersécurité, qui fête ses 10 ans cette année, inCyber vous propose une rentrée littéraire et revient sur les six ouvrages primés lors du Prix du Livre du FIC 2022 ; L’occasion pour tous de s’informer, de se cultiver autrement. Quatrième décryptage du Prix Recherche Universitaire « Servitudes virtuelles » de Jean-Gabriel Ganascia (éditions Seuil) par Pascal Coillet-Matillon.

Les valeurs invoquées par les comités d’éthique concernant la régulation de l’intelligence artificielle (IA) sont souvent de vaines idoles ! C’est le constat froid et lucide que Jean-Gabriel Ganascia, Professeur d’informatique à la faculté des sciences de Sorbonne Université, dresse dans son dernier livre – fort roboratif ! – Servitudes virtuelles. Âmes sensibles s’abstenir…

En effet, s’inspirant de Nietzsche et de sa philosophie à coups de marteaux qui déconstruit les valeurs idolâtrées par les idéalistes, Ganascia torpille presque au marteau piqueur les divers « principes » moralisant l’utilisation du numérique et de l’IA. Comme il l’explique : « nous bousculerons quelque peu les principes et valeurs invoqués par les comités de réflexion sur l’éthique de l’intelligence artificielle, nous les cognerons pour entendre retentir la réverbération des sons qu’ils répercuteront, afin d’en estimer la plénitude de l’éventuelle vacuité. » Évidemment, il ne les cogne point par pur plaisir nihiliste ! Au contraire : en les bousculant, il indique au lecteur une manière de mieux se protéger des dérives de l’IA : celle de troquer la moraline contre la lucidité !

Au-delà des « postures morales »

Pour l’auteur, les principes dits éthiques censés réguler l’utilisation de l’IA et produits par de nombreux acteurs (sociétés savantes, comités d’experts, l’Union européenne, GAFAM comme Google, universités, États, etc.) dans des formes très variées (avis, rapports, chartes, codes, règlements, résolutions, etc.) sont « des figures, des statues, des images, des idéaux momifiés que l’on adore au lieu d’entamer une authentique réflexion » : n’étant pas en phase avec le réel, il flottent « dans un ciel d’abstractions vaines ».

Pour illustrer son propos, il cite les principes dégagés par le Groupe d’experts indépendants de haut niveau sur l’intelligence artificielle initié par l’UE en 2018 : bienfaisance (« faire le bien »), non-malfaisance (« ne pas faire le mal »), autonomie (« préserver l’agentivité humaine »), justice (« être équitable »), explicabilité (« opérer de façon transparente »). Comment ne pas être pour ces grands et beaux principes ? Pourtant, que l’on soit pour ou contre, ils sont tellement abstraits et creux qu’à force de les cogner à coups de marteau on se rend vite compte de leur ineffectivité.

Pour le démontrer, l’auteur part souvent de problématiques très concrètes où aucun des principes évoqués n’est d’un grand secours. Par exemple, aucun desdits principes ne nous permet de savoir s’il serait envisageable d’organiser un spectacle de combat de robots jusqu’à ce que ceux-ci soient totalement détruits. En effet, en quoi serait-ce une malfaisance d’organiser un tel combat alors même que, contrairement aux êtres vivants, les robots ne peuvent ni souffrir ni mourir ? Pourtant beaucoup les condamnerait sans doute, au nom de la bienfaisance et au moyen d’arguments tirés d’une analogie avec les combats d’êtres humains, afin d’empêcher un tel spectacle de se produire.

De plus, puisqu’ils sont abstraits et généraux, ces principes peuvent aussi être interprétés de manière très subjective. Là aussi l’auteur illustre son propos par de nombreux exemples concrets. Parmi ceux-ci demeure le cas d’une étude scientifique publiée par un laboratoire de psychologie sociale et utilisant l’IA pour détecter l’orientation sexuelle au faciès. En se basant pourtant sur des principes bioéthiques dont ceux de non-malfaisance ou d’autonomie de la personne, le comité institutionnel d’éthique n’a rien eu à redire. Or, comme l’explique Ganascia, il est aisé de penser qu’une telle étude va à l’encontre du principe d’autonomie (et donc de liberté) de la personne puisqu’elle « repose sur l’hypothèse selon laquelle l’orientation sexuelle serait prédéterminée à la naissance et donc définitive. » Par conséquent, l’ « opacité » de ces principes abstraits conduit nécessairement à une certaine forme d’ « impuissance » et de « lâcheté ». Pire : certaines grandes entreprises peuvent donc même s’en servir pour parer de l’auréole du juste et du bien certaines de leurs innovations pouvant pourtant être très contestables.

Soyez lucides !

Pour « bien choisir sa voie et se frayer en toute conscience un chemin » au-delà de ces principes moraux abstraits, l’auteur fait « cadeau » à son lecteur d’une « rose des vents numériques » lui permettant de se « repérer » et de « gouverner sa vie au large des habitudes ».

Deux des quatre points cardinaux de cette rose des vents sont consacrés à l’ « être en ligne » (Online) comme « finalité ultime » vers laquelle tend l’individu contemporain et à « l’excursion « hors ligne » » (Offline) comme « absence », « refuge », « espace protégé indispensable à l’éclosion de l’intimité ». Les deux autres points indiquent « l’existence « en vie » » (onlife) prescrivant comme « impératif éthique » de « prolonger notre vie biologique autant que les progrès des sciences médicales le permettent » et « l’être « hors vie » » (offlife) renvoyant « à une polarité très en vogue qui augure d’une fin de l’humanité conséquence du déploiement autonome (…) des technologies de l’information. »

Consacrant à chacun des points cardinaux un chapitre afin de mieux le dévoiler, Ganascia invite alors le lecteur à s’interroger sur son existence dans « les territoires inconnus et mouvants du cyberespace », dans « cet univers étrange qui naît sous nos yeux ». En procédant ainsi, croît alors chez le lecteur une certaine lucidité, au-delà de toutes les postures morales, lui permettant de « garder le cap » pour ne point sombrer dans un « état de servitude virtuelle » : « Plutôt que de se laisser aller au gré des vents – ou des modes –, de prendre pour guide des prophètes charismatiques, (…) ou d’affirmer des principes moraux intangibles, nous devons user de notre liberté (…). Point d’éthique sans cela ! ». Un livre décapant !

Restez informés en temps réel
S'inscrire à
la newsletter
En fournissant votre email vous acceptez de recevoir la newsletter de Incyber et vous avez pris connaissance de notre politique de confidentialité. Vous pourrez vous désinscrire à tout moment en cliquant sur le lien de désabonnement présent dans tous nos emails.
Restez informés en temps réel
S'inscrire à
la newsletter
En fournissant votre email vous acceptez de recevoir la newsletter de Incyber et vous avez pris connaissance de notre politique de confidentialité. Vous pourrez vous désinscrire à tout moment en cliquant sur le lien de désabonnement présent dans tous nos emails.