DES GENS ORDINAIRES ou « l’humain est une donnée comme les autres » – (Black Mirror, E1S7)

Rivermind : une âme dans le Cloud ?

L’épisode 1 de la saison 7 de la série Black Mirror débute par la mise en œuvre d’un postulat voulu, espéré, attendu par les Transhumanistes. Il s’agit de la digitalisation de la personne humaine, sa personnalité, sa mémoire, ses expériences… Ainsi, Amanda, l’héroïne malgré elle de cette histoire, à la suite d’un accident cérébral, se voit appliquée les services de Rivermind, un dispositif qui délocalise les données qui constituent sa personnalité sur des serveurs distants, comme nous le faisons toutes et tous avec nos données Cloud. Si ce n’est que là, ce sont ses capacités d’interaction sociale, ses souvenirs, son être agissant qui se trouvent déporté dans des serveurs distants. Tout ceci n’étant pas sans conséquences… c’est tout le propos de cet épisode.

On peut s’accorder avec les Transhumanistes pour voir dans la perspective – lointaine – du passage du substrat biologique de la personne humaine à celui artificiel une réelle avancée, la mort de la mort, selon leur propre expression. On est aussi en droit de n’y voir que le fantasme d’un courant de pensée qui, au nom d’une Singularité qui se fait attendre et de tout ce que la technologie peut et pourra apporter à l’humanité, refuse d’envisager la mort comme une fatalité. Au pire, cette « mort de la mort » ne serait qu’un déni d’évidence, cet technologie si elle arrivait à maturité provoquant sûrement une rupture d’équité, son accès « plein » étant sans aucun doute soumis à arbitrage financier, n’est-ce pas déjà ce que nous expérimentons dans nos usages informatiques déportés ou ceux de nos IA ? Il faut surtout interroger ce qui se cache derrière ces déclarations « Singularité », « digitalisation de la personne humaine », « mort de la mort »… 

La Singularité en ligne de mire

Sur l’hypothétique chemin qui pourrait mener à un avenir dans lequel une technologie similaire à celle décrite dans cet épisode de Black Mirror, il faut atteindre la mise en œuvre opérationnelle de deux postulats hautement spéculatifs. Le premier est la Singularité. Pour les Transhumanistes, cette notion représente le moment où les moyens matériels (puissance de calculs) et logiciels (capacités algorithmiques) seront réunis pour voir émerger une intelligence artificielle générale, ou forte, une AIG. Pour mémoire, il existe trois types d’IA : les IA faibles, ou étroites, ce sont celles que nous pratiquons toutes et tous depuis la fin de l’année 2022, elles ne sont (ultra) compétentes que dans un seul domaine, la génération de texte, d’images, de sons, l’interprétation de signaux (sons, textes, imageries médicales, bases de donnés pléthoriques…), l’assistance (augmentation) gestuelle (pour le conducteur, le chirurgien, le paraplégique…), etc. Viennent ensuite les IA fortes, ou généralistes, qui serait l’équivalent artificiel d’une entité biologique – animal ou humain – capable d’appréhender la complexité du réel tangible à la mesure de ses sens. Dans le cas d’une AIG, on constaterait « l’augmentation » de l’intelligence dite artificielle (capacité à ordonner, à comprendre le réel) par une conscience nouvellement acquise (capacité de se concevoir comme être localisé (sur support artificiel ou biologique), moral et social) qui rendra l’entité artificielle capable d’entrer en relation avec les altérités environnantes, artificielles ou biologiques. 

Scanner, est-ce tromper ?

La deuxième réalisation est la « digitalisation de la personne humaine ». En théorie, cela consisterait en la « lecture » intégrale du cerveau humain, en supposant que ce qui constitue une personne humaine soit, un, localisé dans ce seul volume de matière grise et, deux, que ce qui définit une personne humaine puisse être réduit à une quantité, un nombre de données, avec un début et une fin. 

Il va de soi que le premier postulat semble de plus en plus proche : l’émergence des IA génératives dans nos usages quotidiens, qu’ils soient professionnels ou non, a mis à la portée de toutes et tous la pratique, les interactions, les échanges avec des intelligences artificielles faibles qui, néanmoins, nous fascinent jusqu’à la confusion. Et, la vitesse à laquelle se développent ces systèmes algorithmiques plaident en faveur de l’émergence d’une IAG dans un délai que l’on pourrait qualifier d’Accessible, c’est-à-dire un temps à venir qui succéderait à un avenir immédiat qui lui demeure soumis à des réalités financières, industrielles, réglementaires… cet Accessible, se compte-t-il en années, en lustres (cinq ans), en décennies ? Nul ne le sait, à moins d’être un gourou ou un maître de la captation de l’attention sur les médias modernes… Ceci étant dit, on ne dispose d’aucun test qui pourrait trancher de manière définitive entre une conscience artificielle authentique et un algorithme qui imiterait à la perfection le fonctionnement de l’esprit humain. Cela reviendrait, pour l’humanité, à trouver une réponse tout aussi définitive à l’éternelle question « Prouvez-moi que vous êtes humain ? », interrogation explorée, étudiée, disséquée par la philosophie depuis la nuit des temps… 

Du côté de la lecture du cerveau d’une personne, les choses pourraient s’avérer tout aussi compliquées. Mais, admettons qu’à coups d’IRM ultra puissants – pour obtenir une lecture toujours plus fine du cerveau et ses fonctionnements – et d’algorithmes spécialisés – pour organiser et stocker ce qui pourrait émerger d’une lecture cérébrale « nouvelle génération » – on puisse donc « lire » une personne. L’opération effectuée, comment être sûr que ce qui a été enregistré est bien constitutif de LA personne scannée et non une version édulcorée, réduite, amoindrie ? 

Échantillonner, est-ce trahir ?

Même si la comparaison peut paraître triviale, on peut se souvenir des débats qui avait entourés l’arrivée du Compact Disc, dans les années 80 : le fichier numérique contenu dans ces disques étaient issus de l’échantillonnage – le découpage en tranches extrêmement brèves – du signal analogique de la musique à écouter. Du fait de capacités de l’oreille humaine, cet échantillonnage doit se faire au moins à 40 000 Hz, soit 40 000 tranches par secondes. On comprend bien que cette technologie a pour conséquence de faire disparaître toutes les informations plus brèves que cette fréquence d’échantillonnage. Dans le cas de la musique, ce sont des informations considérées comme imperceptibles par l’oreille humaine. Mais, qu’en sera-t-il pour l’esprit humain ? Quoi que lise notre super IRM dans un cerveau, on sera confronté à la même problématique que pour la musique : le passage d’un signal analogique – une onde cérébrale – à un fichier numérique – une accumulation de données comptables qui admet la perte d’informations jugées non pertinentes. 

Psychologie et numérisation : la grande illusion ?

Alors, l’esprit humain survivrait-il à un tel échantillonnage ? Ne risque-t-on pas, par ce processus nécessairement réducteur, de perdre ce qui fait l’unicité d’une personne ? Et si la complexité d’un individu résidait précisément dans ces nuances estimées comme imperceptibles, non pertinentes ? Que deviendrait-elle, cette complexité, après la numérisation qui aura fait disparaître d’infimes informations ? Sera-t-on sûr que la personnalité digitalisée sera bien une copie conforme de la personne qui se meurt dans le lit voisin ? Tout ceci étant évoqué sans aborder la psyché humaine, car que faire de ces données sans le bon « logiciel » pour les traiter et qui constitue la personne ? Vous l’aurez compris, on parle ici de psychologie, ce processus intime que chaque individu développe tout au long de sa vie en relation avec ses souvenirs et ses expériences. Cette psychologie est-elle réellement reproductible ? 

Depuis le début de cette analyse, il vous a été demandé, lecteur, une certaine dose de « Suspension volontaire de l’incrédulité », cette attitude délibérée qui vous aura permis de me suivre dans mon raisonnement. En abordant l’éventualité de digitalisation de la psychologie humaine, ou même animale, je vais vous demander d’ajouter encore un peu plus de cette suspension. Car, pour rendre ce processus réalisable, pour transférer une personnalité humaine vers un substrat artificiel, il faudrait pouvoir « décompiler » la psychologie d’un individu comme on le fait d’un logiciel, en considérant, une nouvelle fois, cette psychologie comme une quantité mesurable. Est-ce raisonnablement réalisable ? Je n’en sais rien, n’étant ni psychologue, ni neurologue… Mais, il n’est pas interdit de s’interroger sur des sujets au-dessus desquels nos chers amis Transhumanistes semblent sauter avec légèreté… et qu’ils appellent donc la « mort de la mort ».

Hors de la monétisation, point de salut ?

Au final, ayant avalé toutes ces couleuvres, on peut pleinement désormais goûter tout le cynisme d’une société, la nôtre  – ne nous leurrons pas – qui est prête à tout monétiser. La misère et la souffrance ? S’il existe des individus disposés à payer pour des séances de sadomasochisme virtuelles, une plateforme sera créée pour mettre en relation ceux qui souffrent et sont prêts à encore plus souffrir contre rétribution avec ceux qui ont des appétits voyeuristes. Mike, le mari d’Amanda en fera la triste expérience pour offrir à son épouse quelques moments de liberté dans l’enfer numérique dans lequel il l’a enfermé : c’est lui qui a pris la décision de lui faire bénéficier des services de Rivermind. « Vous désirez un accès complet dans les meilleures conditions qui soit à vos données privées, la mémoire, les capacités d’interaction sociale d’Amanda ? Pas de problème : Rivermind est là pour vous apporter tous les services que vous souhaitez… contre rétribution, cela va de soi ! Si vous n’avez pas les moyens de vous offrir ces services, Rivermind ne vous coupera pas l’accès à ces données, les services seront justes réduits, restreints, adaptés (dégradés !). Tous ces services et les frais qui leurs sont attribués évolueront au gré des conditions de vente que nous adapterons, à l’avenir, à notre convenance… »

Black Mirror, toujours plus proche du réel ?

Pour nombre d’observateurs, l’avenir de la consommation passera par l’achat de services au détriment de celui des biens. Peut-être. Sûrement, même ! Notre planète et son environnement pourraient bénéficier d’un ralentissement de la production d’objets aux usages intermittents. Il faudrait juste pouvoir préserver certains domaines de l’intrusion commerciale. C’est en tout cas ce que le génie de Charlie Brooker et de ses équipes nous démontre avec talent. La livraison 2025 est à la hauteur de la réputation de cette série qui nous interpelle depuis bientôt 14 ans sur les usages émergents liés aux nouvelles technologies, en général, et au numérique, en particulier. Alors, bienvenue dans notre avenir !