Trust & Safety Forum : les trois fondamentaux pour construire un monde numérique plus sûr

La cinquième édition du Trust & Safety Forum est de loin la plus riche jusqu’alors. Pas moins de 700 participants, 57 intervenants, 15 sessions et 3 ateliers, 2 jours d’échanges dont 1 journée portes fermées consacrée à la voix des jeunes dans la régulation de leurs usages numériques. Rendre justice à la richesse des débats en 1200 signes est un dilemme : faut-il faire un résumé façon IA, pour restituer le contenu de la manière la plus condensée et exhaustive possible ? Pas sûr que cette fonction de synthèse où l’intelligence artificielle excelle (sous réserve d’exercer une analyse critique fine du résultat produit) soit ici la plus pertinente. 

Optons plutôt pour une approche intuitive, plus intéressante car la machine n’y a pas encore prise. C’est toute la force de l’intuition : impalpable, indéfinissable, elle est le produit de données objectives et de perceptions subjectives, elle est le fruit de l’expérience, mais aussi de l’individu dès son plus jeune âge, elle est en nous, et personne (ni rien) n’a accès à son processus d’élaboration. 

Notre intuition, nourrie par les échanges tenus pendant et après l’événement, ainsi que par les chiffres de l’AI Index 2026 de l’Université de Stanford, est la suivante : le sentiment collectif de vertige face à la puissance de l’IA — à la fois outil de disruption et levier de protection de notre vie numérique — semble avoir atteint son point culminant.

À écouter les intervenants du Trust & Safety Forum, les éléments fondamentaux qui permettront à nos sociétés d’absorber le choc de cette révolution de l’IA sont déjà identifiés. Ces fondamentaux ne sont pas clairement exprimés comme tels, ils peuvent même paraître hors d’atteinte, pourtant ils sont déjà là en filigrane. Que nous soyons acteurs de la société civile, plateformes, régulateurs, fournisseurs de solutions technologiques, chacun d’entre nous est ébloui par l’IA comme on peut l’être par les puissants phares d’un mystérieux engin dans la nuit se dirigeant droit vers nous. 

L’éblouissante IA cache l’humain à l’œuvre 

Nous sommes éblouis par la puissance perçue de la machine qui semble agir à la place de l’humain. Parce que la machine ne nous donne pas à voir le rôle de l’humain, comme les phares dans la nuit ne donnent pas à voir leur conducteur. Akash Pugalia, Digital Chief Officer de TP (ex-TelePerformance), acteur mondial de la Trust & Safety, insiste sur ce point : “Ce qui est souvent présenté comme une modération « automatisée » est, dans la pratique, un système à plusieurs niveaux, combinant des modèles d’IA, des politiques et l’expertise humaine, qui fonctionnent ensemble à grande échelle.” Cette complexité est une source d’espoir, dans la mesure où l’on peut progressivement comprendre les différentes composantes de cette complexité, une à une. Il n’y a pas un bloc monolithique qui s’impose à nous, il y a un écosystème d’éléments qui peuvent progressivement être isolés, identifiés et traités. L’affaire n’est pas simple, et les promesses ne vont pas sans déception. Josephine Ballon, co-fondatrice du signaleur de confiance HateAid en Allemagne, un des plus importants en Europe contre les discriminations et la violence sexuelle en ligne, regrette que le DSA, qui a été conçu pour amener de la transparence sur les décisions de modération par les plateformes, n’a pas pour le moment porté ses fruits, en raison du manque de transparence sur les algorithmes eux-mêmes, et aussi en raison de procédures de signalement peu intuitives mises en place par les plateformes. Flore Bouhey Dwan, Directrice de la supervision des plateformes au sein de la Coimsiún na Meán, le régulateur irlandais, reconnaît que le système en place n’est pas parfait, mais invoque un élément qui peut paraître dilatoire, mais est au contraire un élément fondamental : le temps. 

Il faut du temps

Il faut du temps. Un temps qui manque face à une proposition technologique éblouissante et appétante, que deux experts de l’atelier sur la participation de la jeunesse, animé par la chercheuse Ioanna Noula, ont comparé (sans s’être concertés) à la puissante industrie du fast food : abordable, facile d’utilisation, créant un faux sentiment de satisfaction, et aboutissant à une (inf)obésité collective, touchant tous les âges. 

Le régulateur confronté à un phénomène aussi massif a besoin de temps, on l’a vu. 

Il faut aussi du temps aux signaleurs de confiance : Robbert Hoving, président du réseau mondial INHOPE, alerte sur le retrait annoncé du financement européen accordé depuis 25 ans à de nombreux signaleurs de confiance à travers l’UE, déstabilisant gravement 14 des structures qui travaillent au retrait des contenus pédocriminels. Comment peut-on à la fois leur demander de construire une indépendance vis-à-vis des grandes plateformes et leur retirer leurs financements publics ? 

Il faut du temps à la recherche. C’est presqu’un cri d’alarme que lance Andras Molnar, Director of Online Safety au TUM Think Tank, issu de l’Université de Munich. Sous la pression des événements, peut-on encore prendre le temps de chercher et d’aller dans la nuance ? Or, pour Molnar, aucun acteur ne peut à lui seul lutter contre les atteintes en ligne : la collaboration intersectorielle, transfrontalière et interdisciplinaire est une nécessité structurelle, et non une simple option. Sauf que l’innovation se focalise sur un déploiement rapide sur le marché, tandis que la régulation, elle, repose sur la qualité des informations factuelles et la pérennité institutionnelle. Même constat pour Julien Bellaiche, directeur de recherche au Global Network on Extremism and Technology (GNET) : la recherche, c’est de la nuance et du temps.

Il faut du temps à l’entreprise. Pour ne rien simplifier, la technologie est elle-même source de compartimentation. Comme le relève Tariq Krim, à la tête du think tank Cybernetica, les solutions technologiques utilisées dans les entreprises ont contribué à la rigidification des silos entre les équipes, chacune utilisant une solution adaptée à ses besoins… et les isolant dans leur propre univers métier. Face à cette ossification des organisations, il appelle à la création d’un Chief Resiliency Officer, qui “travaillerait en transversal pour adapter la stratégie à un monde où la géopolitique, la cyber, la politique ou parfois son absence obligent à prendre des décisions en dehors du scope habituel”. Au Chief Risk Officer les audits formels, les registres de risques par unité, l’approche verticale, au Chief Resilience Officer les check-ins informels, l’identification des tendances de fond, l’approche transversale. Autant dire que les organisations, qui reposent sur un modèle pyramidal et vertical, auront besoin, pour tester et pérenniser un tel rôle horizontal, de… temps. 

Il faut des données de qualité

Sous la pression des événements, un monde traditionnellement aussi fermé que celui des autorités judiciaires et des services de police s’est ouvert ces dernières années. Régis Villette, chef du CNAIP (Centre National d’Analyse des Images Pédopornographiques) au Ministère de l’Intérieur le dit spontanément, et des experts privés sur les contenus violents extrêmes comme Bjørn Ihler, fondateur de Revontulet et qui travaille activement avec Europol et les régulateurs en Nouvelle-Zélande ou au Canada, le confirment. L’explication est à chercher du côté du besoin d’avoir des données fiables. Que ce soit pour les enquêtes, l’OSINT, l’IA, la donnée de qualité est la colonne vertébrale de tout. Akash Pugalia et Tariq Krim, lors de leur conversation sur l’IA, convergent sur ce constat. Pour Pugalia, “les données sont le pétrole de l’IA”. Pour Krim, “si vous avez des jeux de données incroyables, vous allez vous épanouir avec l’IA”. Ce dernier ajoute, en parlant de l’IA agentique, qu’il n’y a pas besoin d’être ingénieur pour maîtriser un outil comme Claude Code, mais en revanche il est nécessaire de “connaître le contexte et savoir décrire ce que l’on veut faire”. Au détour de cette phrase apparaît le troisième élément fondamental : le contexte.

Il faut le contexte

Le contexte peut être défini à partir de données factuelles, et l’IA peut tout à fait restituer une partie de ce contexte. Dans le domaine des violences sexuelles liées à l’image, comme la sextortion, les deepfakes, nombre d’informations sont disponibles publiquement, qui permettent de connaître la prise en compte (ou pas) de ces violences dans un pays donné (discussions publiques, loi, actions judiciaires, statistiques, etc.). Pour nombre de professionnels engagés contre ces violences, comme Josephine Ballon ou Laura-Blu Mauss de Respect Zone, il est incompréhensible que des applications de nudifications soient disponibles sur les plus grands magasins d’applications. Si l’auteur d’une nudification peut trouver amusant de nudifier une femme, c’est nier gravement le ressenti des personnes représentées dans l’image. Selon le contexte, une même image peut être anodine ou porter un préjudice grave. Arda Gerkens, la présidente du régulateur néerlandais reconnaît qu’il est difficile de comprendre la disponibilité de ces applications, mais que le cadre réglementaire actuel rend difficile leur blocage en l’absence d’une loi ou d’une interdiction administrative… laquelle arrive bientôt en Europe, dès cette année. Gabi Walshaw VP Product de Qoria, voit cette difficulté entre données et contexte dans le domaine de la protection de l’enfance au sein des écoles : elle constate constamment un fossé de compréhension entre ce que Qoria mesure et ce que les professionnels de terrain ressentent.Donnons la parole à Andras Molnar qui  a résumé le défi et l’opportunité devant nous : “La Trust & Safety est un défi systémique : il ne s’agit plus d’outils ou de politiques isolés, mais de la manière dont l’IA, les humains et les cadres de gouvernance fonctionnent ensemble de manière cohérente.” Avec du temps, des données de qualité et une information contextuelle, il n’y a pas de raison de douter qu’on y arrivera. En tout cas, c’est notre intuition.