
OpenAI veut lutter contre les risques « catastrophiques » de l’IA
Articles du même auteur :
2
3
4
L’éditeur de ChatGPT a recruté une équipe d’experts pour analyser les dangers les plus graves qu’induisent les modèles d’IA avancés.
OpenAI a annoncé, fin octobre 2023, la création d’une équipe d’experts, baptisée « Preparedness », dédiée à lutter contre les risques « catastrophiques » induits par l’IA. « Les modèles d’IA d’avant-garde, qui dépasseront les capacités des modèles actuels les plus avancés, auront un potentiel qui bénéficiera à l’ensemble de l’humanité. Mais ils généreront également des risques de plus en plus grands », expose l’éditeur de ChatGPT.
L’équipe, menée par Aleksander Madry, un spécialiste de l’IA du MIT, se penchera sur trois questions cruciales :
Dans le détail, Preparedness va étudier plusieurs risques que posent les modèles d’IA :
OpenIA a également lancé le « AI Preparedness Challenge », un concours sur le sujet. La firme offre ainsi jusqu’à 25 000 dollars (23 500 euros) pour les 10 meilleures soumissions d’utilisations « probables mais potentiellement catastrophiques » de l’IA.