Dans le cadre du mois européen de la cybersécurité, qui fête ses 10 ans cette année, inCyber vous propose une rentrée littéraire et revient sur les six ouvrages primés lors du Prix du Livre du FIC 2022 ; L’occasion pour tous de s’informer, de se cultiver autrement. Premier décryptage du Prix Grand public « Les algorithmes font-ils la loi ? » d’Aurélie Jean (éditions de l’Observatoire) par Pascal Coillet-Matillon.

Les algorithmes font-ils la loi ? Le titre du dernier excellent livre d’Aurélie Jean, Docteure en science numérique et figure de la science algorithmique, pourrait faire penser à un simple sujet de dissertation d’un examen. Que nenni ! Ce titre sous forme interrogative est, en fait, un véritable pied de nez au conformisme ambiant !

En effet, puisque beaucoup affirment sans ambages que les algorithmes représentent une grande menace envers nos libertés, la forme interrogative du titre instille alors le doute chez le lecteur. Comme pour mieux le préparer à devoir réfuter tous ses a priori au fur et à mesure de sa lecture, il le force à se poser cette question : les algorithmes font-ils réellement la loi comme « on » dit ? Faut-il en avoir peur ?

A priori non ! Du moins c’est la thèse défendue par l’autrice qui lève alors un beau lièvre : « l’algorithme n’est pas coupable pour la simple et bonne raison qu’il n’est ni une personne physique ni une personne morale, et que ce sont bien des hommes et des femmes qui décident de l’usage, de l’implémentation et des effets qui en résultent, et qui sont donc les seuls responsables. »

Ainsi, l’algorithme est en réalité un simple outil de l’homme. Par conséquent, n’étant pas autonome, il ne peut pas faire régner sa propre loi. Ses effets néfastes ou positifs dépendent directement de l’usage humain qui en est fait. Le lecteur comprend alors que demeure une place pour la liberté de l’homme de décider de la finalité des algorithmes et, partant, de conformer leur usage à ce qu’il veut, à la justice. Mais pour exercer cette liberté, encore faut-il comprendre ce qu’est un algorithme.

Déchirer au maximum le voile de l’ « opacité algorithmique »

Comme l’explique Aurélie Jean, la compréhension du fonctionnement des algorithmes « est fondamentale pour garantir la « confiance » des individus dans ces outils » tant celle-ci n’est point acquise. Aussi, maintenant que l’État use d’algorithmes pour remplir ses fonctions, leur compréhension est nécessaire pour garantir le contrat social. Bref, l’autrice en est convaincue : il faut déchirer au maximum le voile de ce qu’elle appelle l’ « opacité algorithmique ».

C’est pourquoi elle s’emploie avec grande clarté à expliquer au lecteur le fonctionnement des algorithmes afin de lui donner les clés de compréhension des problèmes politiques, juridiques, éthiques et sociaux provoqués par leur intrusion dans sa vie quotidienne. Son livre s’inscrit dans la tradition humaniste en ce qu’il éclaire l’individu pour qu’il accomplisse au mieux ses devoirs de citoyen averti.

Ainsi, il apprend qu’existent deux catégories d’algorithmes : les explicites et les implicites. Tandis que les explicites sont généralement explicables puisqu’on « en définit explicitement l’ensemble des règles logiques qui le détermine », les implicites dits d’ « apprentissage » sont plutôt opaques puisqu’ils développent « par entraînement des critères » qui sont « implicites ». C’est pourquoi ils « ne sont pas entièrement explicables dans la mesure où les règles de résolution du problème en question restent implicites » explique l’autrice. Et c’est là que le bât blesse !

En effet, les citoyens exigent de plus en plus de transparence quant aux critères et règles déterminant les algorithmes afin d’être assurés de leur utilisation juste et non discriminante. De plus, comme l’expose l’autrice, la science algorithmique tend (avec des limites) à s’introduire dans l’exercice même de la loi, au sein des fonctions policières et judiciaires. Et cela par le biais de logiciels comme COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) aux États-Unis permettant d’évaluer les risques de récidive chez un individu ou encore DataJust en France, lequel estime les montants des indemnités réparant des préjudices corporels.

Pourtant, comme l’affirme Aurélie Jean, bien qu’existent diverses « méthodes d’explicabilité » des algorithmes implicites (qu’elle expose synthétiquement), celles-ci se heurtent toujours à un minimum d’opacité algorithmique qu’elles ne peuvent dévoiler. Aussi, même si une totale transparence algorithmique était possible, elle ne serait pas souhaitable car tendrait à « démotiver fortement les acteurs privés d’innover ». C’est pourquoi elle plaide alors plutôt pour « diminuer l’impact de l’opacité algorithmique ».

Dompter les algorithmes au profit de la justice

Afin que l’utilisation des algorithmes soit juste et que les effets de leur opacité soient maîtrisés, l’autrice propose de les « dompter » (plutôt que de les réguler) grâce, en partie, à l’éthique. En effet, comme elle l’explique, « l’éthique est un des piliers de la gouvernance algorithmique, au même titre que la loi. L’éthique permet de responsabiliser chaque individu, quelle que soit sa position sur l’échiquier technologique et social. » C’est pourquoi elle insiste sur la nécessité de « former les concepteurs à réfléchir éthiquement dans la pratique de leur discipline ».

De plus, pratiquer un rapport éthique aux algorithmes permet alors d’aiguiser son esprit critique, de se doter d’une « autodéfense intellectuelle face à la complexité et à la multiplicité des risques de ce monde algorithmisé ». Esprit critique nécessaire surtout pour ceux qui font et exercent la loi. C’est pourquoi, tout comme le législateur « devra accélérer son apprentissage des sciences de la data et des algorithmes, pour aller plus vite et plus loin dans sa compréhension », tout « acteur de la loi (juge, avocat ou policier) doit être en position de comprendre la logique d’exécution de l’outil qu’il utilise afin d’évaluer la pertinence de la suggestion algorithmique, et ainsi faire usage de son libre arbitre pour la suivre ou, pourquoi pas, la contredire ».

Restez informés en temps réel
S'inscrire à
la newsletter
En fournissant votre email vous acceptez de recevoir la newsletter de Incyber et vous avez pris connaissance de notre politique de confidentialité. Vous pourrez vous désinscrire à tout moment en cliquant sur le lien de désabonnement présent dans tous nos emails.
Restez informés en temps réel
S'inscrire à
la newsletter
En fournissant votre email vous acceptez de recevoir la newsletter de Incyber et vous avez pris connaissance de notre politique de confidentialité. Vous pourrez vous désinscrire à tout moment en cliquant sur le lien de désabonnement présent dans tous nos emails.