ChatGPT: le Parlement européen veut une réglementation plus stricte
➡️ Accéder à CHAT GPT4 en cliquant dessus
L’Union européenne (UE) a obtenu un premier aval des eurodéputés pour son projet de régulation de l’intelligence artificielle (IA) le 11 mai. L’UE souhaite être la première au monde à se doter d’un cadre juridique complet pour limiter les dérives de l’IA, tout en sécurisant l’innovation. Bruxelles a proposé il y a deux ans un projet de règlement ambitieux, qui a été retardé ces derniers mois par les controverses sur les dangers des IA génératives capables de créer des textes ou des images. Les eurodéputés ont validé leur propre position, qui devra être confirmée en plénière en juin.
Liste de règles imposées pour des applications à haut risque
L’approche des eurodéputés confirme dans ses grandes lignes celle de la Commission de mettre en place une liste de règles imposées aux seules applications jugées à haut risque par les entreprises elles-mêmes à partir des critères du législateur. Le projet consiste à mettre en place des contrôles reposant sur les entreprises. Pour l’Union européenne, il s’agirait de tous les systèmes utilisés dans des domaines sensibles tels que les infrastructures critiques, l’éducation, les ressources humaines, le maintien de l’ordre ou la gestion des migrations. Parmi les obligations, les entreprises devront prévoir un contrôle humain sur la machine, l’établissement d’une documentation technique, ou encore la mise en place d’un système de gestion du risque. Leur respect sera contrôlé par des autorités de surveillance désignées dans chaque pays membre. Les eurodéputés veulent limiter les obligations aux seuls produits susceptibles de menacer la sécurité, la santé ou les droits fondamentaux.
Interdiction des systèmes de reconnaissance et récolte de données
Le Parlement européen souhaite également mieux prendre en compte les IA génératives du type ChatGPT en réclamant un régime spécifique d’obligations. Les eurodéputés souhaitent contraindre les fournisseurs à mettre en place des protections contre les contenus illégaux et à révéler les données protégées par des droits d’auteur et utilisées pour développer leurs algorithmes. La proposition de la Commission prévoit déjà un encadrement des systèmes d’IA qui interagissent avec les humains en les obligeant à informer l’utilisateur qu’il est en relation avec une machine et en contraignant les applications générant des images à préciser qu’elles ont été créées artificiellement. Les interdictions concerneront les applications contraires aux valeurs européennes, comme les systèmes de notation citoyenne ou de surveillance de masse utilisés en Chine. Les eurodéputés veulent y ajouter l’interdiction des systèmes de reconnaissance des émotions et supprimer les dérogations autorisant l’identification biométrique à distance des personnes dans les lieux publics par les forces de l’ordre.
Un projet de grande complexité technique
Les systèmes d’intelligence artificielle peuvent sauver des vies en permettant un bond en avant des diagnostics médicaux, mais ils sont aussi exploités par des régimes autoritaires pour exercer une surveillance de masse des citoyens. Les eurodéputés ont reçu plus de 3 000 amendements pour cette étape cruciale du projet européen de régulation de l’intelligence artificielle. Les systèmes d’intelligence artificielle fascinent autant qu’ils inquiètent et le projet est de grande complexité technique. La position du Parlement européen confirme dans ses grandes lignes l’approche de la Commission, qui prévoit un encadrement précis des systèmes d’intelligence artificielle en interaction avec les humains. Il s’agit d’une étape cruciale pour donner aux citoyens européens une meilleure visibilité sur l’utilisation de l’intelligence artificielle et mettre en place un cadre juridique complet pour limiter les dérives de l’intelligence artificielle, tout en sécurisant l’innovation. Les difficultés en termes de négociation entre les différentes institutions sont à prévoir.
Source : www.lemonde.fr