La Californie adopte une loi de régulation de l’IA
Le Sénat de Californie a adopté, le 29 août 2024, le projet de loi SB 1047 sur la régulation de l’IA, déjà validée par l’Assemblée de l’État américain. Porté par Scott Wiener, le sénateur démocrate de la Californie, ce texte « vise à garantir le développement sûr de systèmes d’IA à grande échelle en établissant des normes de sécurité claires, prévisibles et de bon sens pour les développeurs ».
Cette régulation s’appliquera aux modèles d’IA de pointe, d’une puissance de calcul supérieure à 1026 FLOPS et aux coûts d’entraînement supérieurs à 100 millions de dollars (90 millions d’euros). Elle leur impose notamment :
- des tests de sécurité avant déploiement ;
- la mise en place de « red teams » et d’une cybersécurité optimale ;
- des mesures de protection empêchant l’utilisation abusive de certaines capacités ;
- une surveillance après le déploiement.
Le projet de loi donne également au procureur général de Californie le pouvoir d’engager des poursuites judiciaires « dans le cas où le développeur d’un modèle d’IA causerait un préjudice grave aux Californiens » ou « si la négligence du développeur constituerait une menace imminente pour la sécurité publique ».
Le texte garantit aussi une protection de lanceurs d’alerte aux employés des laboratoires d’IA. La loi impose par ailleurs la création d’un cluster de cloud public de grande puissance pour l’usage des start-ups émergentes, chercheurs et « groupes communautaires » du secteur de l’IA.
Le projet de loi SB 1047 divise la communauté de l’IA. Certains chercheurs le soutiennent, estimant qu’une régulation du secteur est nécessaire. D’autres craignent que ces normes excessives entravent les projets universitaires ou indépendants, et empêchent l’émergence de nouveaux entrants. Après un ultime vote de procédure, les législateurs californiens proposeront le texte au gouverneur de Californie, Gavin Newsom, qui pourra soit le promulguer, soit y opposer son veto.