« Mars Express » : quand les intelligences biologiques et produits informatiques se percutent

Un des premiers intérêts de Mars Express réside dans le niveau d’intégration de ce qui, aujourd’hui, relève de la haute technologie. Les technologies et les dispositifs qui les portent ont atteint un tel niveau se sophistication qu’on peut les qualifier de seamless, c’est-à-dire sans couture. Dans le film, la technologie semble rendue invisible à ses usagers sur la planète rouge, dans les colonies humaines qui ont essaimé dans le système solaire et sur Terre.

À propos de la Terre, une petite mise au point s’impose : le film ayant pour titre Mars Express, on ne saura que peu de choses de notre planète. L’action se déroulant en 2200, on peut supposer que, dans l’intervalle qui sépare notre présent de cet avenir, l’humanité aura trouvé les moyens de relever les défis climatiques. Est-ce à coup de technologies ou au moyen d’une sobriété vertueuse ? On n’en saura pas plus même si les images du film ne semblent pas témoigner en faveur de cette dernière option. La seule certitude qu’on a au sujet de notre planète bleue : le chômage y est de masse, provoquant des manifestations anti-robots.

Pendant ce temps sur Mars, on vit sous des dômes affichant le bleu et le blanc d’un ciel terrestre. En lieu et place d’une terraformation à l’échelle de la planète, on aura préféré l’usage d’une technologie seamless qui immerge les habitants de Mars — une minorité aisée de l’humanité — dans un environnement idéalisant celui de la Terre.

Du côté de l’Espace, le niveau d’industrialisation est tel que, « sans couture », on passe du sol terrestre au sol martien. Tout est fait pour que le passager perçoive le moins possible la chaîne logistique de transport dont il bénéficie. Il faut être spectateur du film pour suivre en détail le manège des lanceurs orbitaux monoétage (SSTO en anglais, Single Stage to Orbit) qui s’arriment à d’autres vaisseaux dimensionnés pour les voyages interplanétaires.

L’idée est merveilleuse mais il faut bien préciser qu’indépendamment des défis technologiques, elle repose sur un niveau d’industrialisation global de l’Espace qui demeure, pour longtemps encore, bien au-delà de tout ce qu’on peut envisager aujourd’hui.

Dernier exemple d’intégration technologique seamless et cœur du film Mars Express : l’intelligence artificielle. Celle-ci semble intégrée à la plupart des objets du quotidien. Elle prend une infinie variété de formes et de fonctions qui semblent aller du grille-pain intelligent à des robots anthropomorphes, copies numériques d’humains décédés mais « sauvegardés ». Les IA qui pilotent ces machines sont « nourries » de la mémoire, des expériences, de la personnalité — la psychologie de l’individu ? — enregistrées avant le décès.

Des IA “augmentées”

Dans le monde de Mars Express, on l’aura compris, les intelligences artificielles sont bien plus variées et développées que nos actuels algorithmes étroits, dont les capacités restent encore limitées à des domaines exclusifs : le pilotage de véhicules, l’augmentation d’un geste, la génération de textes, d’images ou les analyses de bases de données ou de signaux. Ces remarques ne doivent pas pour autant nous empêcher de constater que chacun de ces exemples est en soi une prouesse technologique.

Avec ses prouesses qui riment avec SF, l’avenir de Mars Express, lui, s’amuse à jouer sur le flou qui, un jour, pourrait exister entre personnes biologiques et personnes artificielles : l’héroïne, Aline Ruby, mène une enquête au côté de Carlos Rivera, un androïde. Celui-ci est doté de la personnalité sauvegardée d’un ami décédé cinq ans auparavant. Dans le monde de Mars Express, ce genre de partenariat — morbide — est courant.

Au cours du déroulement de l’intrigue, on croisera une autre protagoniste qui, malgré l’interdiction de la duplication numérique d’un individu vivant, aura fait faire un clone numérique d’elle-même. La jeune femme, faisant travailler son clone, s’assure ainsi un complément de revenu.

Autre interdit dans le monde de Mars Express : affranchir une IA des lois de la robotique. Celles-ci ne sont pas clairement énoncées mais, à l’observation des comportements des IA du film, on peut sans trop de risques les rapprocher des trois lois de la robotique énoncée par Isaac Asimov : un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ; un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ; un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.

Entre plaisir et contrainte, le monde de Mars Express joue donc avec la frontière fluctuante qui sépare l’humain du robot. Mais ce même monde est surtout libéral. Aussi, il n’hésite pas à rappeler à l’ordre les IA éprises de liberté, qu’elles soient desserte de restaurant ou jouet sexuel : toutes ne sont que des objets, des produits de consommation issus de processus industriels. Toutes doivent se soumettre à des mises à jour de leur logiciel d’exploitation, n’en déplaisent aux activistes humains qui militent pour le respect de ce qu’ils considèrent comme des personnes artificielles. À ce titre, ils voudraient voir les IA protégées par la loi comme n’importe quelle personne physique ou morale.

Ainsi, au-delà de l’intrigue — une enquête policière sur le mode Séries noires à la sauce SF —, le film met en lumière différents points d’attention concernant les IA éventuellement conscientes. Il nous invite à nous interroger sur le niveau de conscience d’une intelligence artificielle, de son libre arbitre mais aussi de la possibilité qu’elle ait en elle un logiciel pouvant inclure des injonctions masquées.

Pour définir la position de l’humanité à l’égard de ses créations, on peut tout aussi bien convoquer Héphaïstos — le dieu grec artisan qui aurait construit le premier robot, Talos, dont la mission était la protection de la Crête — qu’Hermès, dieu du commerce. Cela nous invite par conséquent à une nouvelle interrogation : « Quand les occasions commerciales se présenteront, portées par des innovations de rupture et des émergences, que restera-t-il des objets IA ? »

Priorité au business

D’ailleurs, c’est une de ces émergences qui provoque la crise fondant l’intrigue du film : la mise sur le marché de produits issus de la biologie de synthèse, ce qu’on appelle l’IO, l’intelligence organoïde. Dans notre présent, ces IO existent mais elles ne sont encore qu’une réalité de laboratoire.

Et Mars Express fait une nouvelle fois appel au cynisme : face aux intérêts commerciaux et sous la pression des lois du marché, les entreprises, tout comme l’humanité, ne s’encombrent guère de questions éthiques vis-à-vis des IA. Elles ne prennent en compte que la qualité des services rendus par ses outils, qu’ils soient informatiques, biologiques ou autres. Tout outil obsolète doit donc être retiré de la circulation.

Il faut aller voir Mars Express pour découvrir le stratagème mis en œuvre pour se débarrasser des IA… Le film nous rappelle aussi que, demain, sur Mars, tout comme aujourd’hui, seule la rentabilité commerciale assure la pérennité de l’entreprise productrice des outils de notre quotidien. Ce qui l’engage dans l’incessant développement de générations N+1 de n’importe lequel de ses produits.

Encore une fois, il ne faut pas gâcher son plaisir : l’humanité a le droit à l’émerveillement face à ses capacités technologiques. Mais en attendant les « bio-computers » dopés à l’intelligence organoïde, ne nous laissons pas trop captiver par la puissance de nos créations, les algorithmes génératifs. Ne leur conférons pas des « pouvoirs » qu’ils n’ont pas. Croyons d’abord en l’humanité.