Mois littéraire L’IA : solution miracle contre l’insécurité ? (5/6)

Pour Xavier Leonetti, Docteur en droit et magistrat du parquet au sein de la juridiction économique et financière du Tribunal judiciaire de Marseille, la société actuelle, imprégnée d’un « sentiment d’insécurité », refuse tout risque. C’est pourquoi, selon lui, les technologies numériques sont désormais considérées comme une solution pour réaliser le « rêve d’une société apaisée ». Tel est le constat de son dernier livre Smartsécurité et cyberjustice.

Au-delà de la question de savoir si le constat actuel d’insécurité serait fondé factuellement ou s’il s’agirait d’un simple « sentiment » comme le pense l’auteur, émerge effectivement une demande croissante de garantie et de sauvegarde de l’ordre public, de sécurité. Son origine aurait plusieurs causes : les « crises multiples associées à la menace d’attentats terroristes », la modernité et son exigence de pacification des relations sociales, les réseaux sociaux qui exposent au plus grand nombre des faits divers et qui font de l’internaute un « citoyen engagé dans le signalement des comportements qu’il juge déviants », etc.

Pour répondre à cette demande, l’intelligence artificielle (IA) est donc de plus en plus considérée comme étant la solution nécessaire. Néanmoins, il ne faut pas se faire d’illusions : elle ne peut qu’être une aide, un outil pour l’exercice des fonctions régaliennes de l’État. Et heureusement !

L’IA, une solution pour garantir la sécurité ?

Comme expliqué dans le livre, la quête de prévisibilité au profit de la sécurité fait partie de l’histoire de la modernité. Ainsi, de Lombroso avec son analyse de « l’homme criminel » au XIX^e siècle à l’étude de Patricia Jacobs en 1965 sur les délinquants qui seraient détenteurs d’un chromosome particulier en passant par le concept d’ « homme marginal » dangereux proposé par Robert E. Park, grande a toujours été la tentation d’essayer de reconnaître les potentiels criminels afin de prévoir la criminalité pour mieux la combattre. Aujourd’hui, c’est l’IA qui sert cette quête de prévisibilité.

En effet, ainsi que l’affirme Leonetti, « les promoteurs des solutions d’IA promettent de détecter le criminel avant son passage à l’acte et ainsi détecter la potentialité du crime. » D’autant plus que, depuis plusieurs années, le principe de précaution au moyen duquel il faut prévenir tout risque même en « l’absence de certitudes » tend à s’immiscer de plus en plus en matière pénale.

C’est pourquoi de multiples solutions d’IA émergent, lesquelles visent à essayer de prédire l’insécurité. Il en va par exemple ainsi de techniques expérimentées par la gendarmerie nationale permettant, grâce à l’IA, de détecter les zones territoriales de délinquance (hotspot). Ou encore, comme aux États-Unis, du programme PredPol (Predictive Policing) permettant, grâce à « une compilation de données concernant les infractions passées et les quartiers à risques », de prédire « les zones où des infractions peuvent être commises. » Depuis sa mise en œuvre, les « crimes violents » auraient diminué de 21 %. Leonetti a donc raison d’affirmer que « le monde judiciaire est ainsi devenu un terrain d’expérimentation pour de nombreuses solutions d’IA. » Mais avec des limites…

Vers une justice robotisée ?

Ne soyons pas naïfs ! L’IA ne peut qu’être un moyen pour les fonctions judiciaires, une aide permettant à ces dernières de poursuivre au mieux leur finalité et non pas la solution miracle à tous les problèmes d’insécurité et de justice. C’est pourquoi l’auteur explique justement que « le recours à l’IA n’est pas la panacée, car cette technologie doit encore être perfectionnée afin de garantir sa fiabilité. » En effet, il lui arrive de manquer ses objectifs. Cela a été le cas, comme le rapporte l’auteur, lors de la Ligue des champions à Cardiff en 2017 pendant laquelle les visages des passants ont été scannés grâce à des caméras puis comparés avec une base de données de clichés anthropométriques : les signalements effectués sur la base de ces comparaisons ont été de fausses alertes pour 93 % d’entre eux.

De plus, même si l’IA est bienvenue pour aider la justice à être plus efficace, il n’en demeure pas moins que son rôle ne peut qu’être limité, surtout lorsqu’il s’agit d’y avoir recours pour essayer de prédire les décisions des juges. En effet, comme l’explique l’auteur en se basant sur la théorie réaliste de l’interprétation, le juge n’est pas un robot appliquant automatiquement la loi mais, au contraire, détient une relative liberté pour interpréter les textes : « l’acte de juger ne peut se confondre avec une forme de justice mécanique dans laquelle le juge serait semblable à une machine chargée de distribuer des décisions. En effet, la réalité impose le constat que le jugement est par essence subjectif, car il traduit une décision humaine. Dans ce cas, le juge se fait interprète de la loi.

Et pour cause, le juge ne peut pas être prisonnier des textes et des jurisprudences du passé sur laquelle se fonde l’IA pour prédire les futures décisions. Au contraire, il doit être capable de les surpasser, grâce à son interprétation, afin d’adapter la jurisprudence aux évolutions économiques et sociales de son temps. C’est pourquoi la justice prédictive rendue possible par l’IA peut constituer un véritable danger : en automatisant les décisions des juges à partir de données issues du passé, elle évacue de facto toute possibilité de revirements jurisprudentiels nécessaires. Ainsi, l’auteur explique donc que « le recours à l’IA ne doit pas porter sur la recherche de solutions, mais plutôt sur la formulation de séquences argumentatives » grâce à sa capacité à fournir au juge rapidement et avec précision les informations importantes dont il a besoin pour motiver au mieux ses décisions.