Les nombreux concepts, notions et outils qui composent le numérique sont en constante évolution, et connaissent une médiatisation croissante les faisant apparaitre comme complexes à plusieurs égards. C’est le cas de l’intelligence artificielle dont les cas d’usages divers et variés s’implantent chaque jour un peu plus dans nos quotidiens. Ces sujets très techniques et souvent mal maîtrisés par le grand public donnent lieu à de larges débats publics. L’ACN considère que la confiance que l’on peut accorder à une technologie, à un outil ou à une application numérique, conditionne son acceptation et donc son utilisation. C’est pourquoi, au sujet de l’Intelligence artificielle, les entreprises de notre filière ont choisi, très tôt, de participer à la définition de critères objectifs qui constituent cette confiance. Cette réflexion de fond conduit à distinguer les différents usages de l’IA et les risques qui y sont associés afin de concilier la défense des droits et libertés fondamentaux, l’innovation et le développement des acteurs économiques européens.
L’émergence des fleurons français et européens de l’IA, qui développent leurs technologies dans le respect de nos valeurs fondamentales communes, est indispensable à la maîtrise de notre avenir et de notre souveraineté numérique. En effet, si, dans dix ans, les seuls outils disponibles sont conçus, développés et maîtrisés à travers d’autres systèmes de valeurs dont la compatibilité avec nos droits et libertés doit être questionnée, alors l’objectif premier de protection de ces droits sera impossible à atteindre.
Aujourd’hui donc, l’ACN entretient des échanges constructifs et privilégiés avec les pouvoirs publics ainsi qu’avec les administrations afin de développer une compréhension commune de ces sujets. C’est notamment le cas avec la CNIL autour des enjeux du déploiement des caméras « intelligentes » dans les espaces publics, pour lequel un dialogue permanent a permis aux entreprises de la filière et à la CNIL de partager leurs visions respectives, faisant évoluer leurs positions.
À travers ce type de travaux, l’ACN souhaite plus largement contribuer à la définition de ce qu’est une intelligence artificielle de Confiance. Cette réflexion s’appréhende sur plusieurs niveaux différents mais complémentaires.
Premièrement, le cadre juridique
Son rôle est d’être à la fois le garant des droits et libertés fondamentaux de chaque citoyen, mais aussi de permettre le développement d’une technologie stratégique telle qu’une IA de confiance. Les règles, lignes directrices encadrant les systèmes d’IA et la réglementation et législation doivent s’assurer de délimiter avec précision les risques liés à l’utilisation de cette technologie en fonction des usages (conformément à ce que semblent prévoir les textes européens en cours d’élaboration – l’AI Act, AI Liability Directive) et non pas interdire la technologie per se, nous privant de fait d’outils indispensables à notre souveraineté numérique et à notre autonomie stratégique. L’ACN met en avant, à chacune de ses initiatives, cette approche auprès des législateurs et des pouvoirs et administrations publics afin de les aider à construire le cadre de cette confiance dans l’intelligence artificielle.
Deuxièmement, la bonne compréhension de cette notion de confiance par la société
Il est nécessaire que cette notion soit suffisamment explicite et que les garanties mises en place, notamment au travers du cadre juridique, soient suffisamment rassurantes pour que la société puisse se concentrer sur les bénéfices des différentes IA proposées. Cela nécessite un effort de pédagogie, qu’une sensibilisation à la réalité des métiers et des capacités de l’IA soit mise en œuvre et que les débats autour de ces technologies aient lieu.
Dans son dernier rapport d’enquête portant sur la « Perception du développement des technologies biométriques en France » la Défenseure des droits expose un état des lieux sur les connaissances et la perception des Français sur le sujet des technologies biométriques. Il en ressort que l’appréhension de cette technologie est floue et le degré de confiance apporté est variable en fonction des entités qui les déploient et des lieux dans lesquels elles sont utilisées. Cependant, les citoyens semblent avoir pleinement conscience des risques afférents à ces outils perçus comme insuffisamment encadrés.
C’est pourquoi, il est important pour l’ACN, à travers des projets variés, de faire connaître, non seulement auprès des institutions et des décideurs mais également auprès des citoyens cette réalité et lutter contre le fantasme et la diabolisation perçus autour des sujets et de l’utilisation de l’IA. Par exemple, la modification des réglages algorithmiques est d’une complexité technique telle, que seule l’intervention d’un ingénieur spécialiste dans cette technologie précise pourrait avoir un effet notable modifiant et/ou détournant ainsi la fonction pour laquelle la compétence a été initialement créée. Les réglages permettant de changer de fonction ne sont pas une configuration simple et dépendent de la construction de l’algorithme qui n’est pas disponible pour les opérateurs au quotidien.
Une autre manière de restaurer la confiance dans les systèmes d’IA serait de montrer la technologie à travers la mise en place d’expérimentations à petite échelle, au cœur du quotidien permettant ainsi d’expliciter les concepts, l’outil et ses réglages.
Dernièrement, offrir une confiance technologique
La confiance dans la technologie même, dans des algorithmes construits dans le respect d’un cadre juridique national et européen protecteur des dérives de l’IA et selon un principe de security and privacy by design est un élément très important à prendre en compte. La confiance donnée par le citoyen dans la technologie sera également le reflet de l’éthique des entreprises qui développent et travaillent avec les systèmes d’IA, dans le choix des algorithmes utilisés et dans leur transparence, dans la capacité à réduire les biais grâce à des apprentissages mieux maîtrisés, dans les audits réalisés pour lutter contre les faux positifs ou les faux négatifs i.e.
Dès lors que les éléments de confiance seront débattus, partagés, et donneront lieu à un cadre juridique et à des référentiels techniques clairs, l’IA pourra se déployer. Les bénéfices qui en sont attendus sont chaque jour un peu plus nombreux, qu’il s’agisse par exemple de santé, d’environnement, de gestion des flux ou encore de sécurité. Dans le monde actuel, toujours plus numérisé, l’IA sera indispensable pour nous permettre de gérer les différents défis qui nous font face, depuis les conflits géopolitiques, jusqu’à la gestion de grands évènements en passant par la transition énergétique et l’amélioration de la vie quotidienne. La confiance est au cœur de tous ces développements : c’est pourquoi, l’ACN souhaite continuer de travailler, avec tous les acteurs intéressés, à l’appréhension collective et à la caractérisation de cette confiance tout en alimentant les réflexions démocratiques indispensables au développement serein de ces solutions.
