Jeudi dernier, la majorité l’a emporté au Parlement concernant l’adoption du projet de règlement de la Commission européenne sur l’IA, initialement présenté en avril 2021. La discussion de ce dernier a connu un retard à cause des nombreuses évolutions de la technologie durant ces deux dernières années. L’UE tient néanmoins à être la première au monde à établir un cadre juridique complet pour limiter les dérives de l’IA, tout en préservant l’innovation.
“Nous avons plus de 3.000 amendements. Il suffit d’allumer la télé, chaque jour on constate l’importance de ce dossier pour les citoyens” – Dragos Tudorache, corapporteur du texte
Les parlementaires ont néanmoins partagé des amendements à la proposition de la Commission dans le but de garantir que les systèmes d’IA bénéficient d’un contrôle humain. Qu’ils sont sûrs et transparents, traçables, non discriminatoires et respectueux de l’environnement. De plus, ils souhaitent disposer d’une définition uniforme et claire de l’intelligence artificielle conçue pour être technologiquement neutre, afin d’être en capacité de l’appliquer aux systèmes d’IA actuels et futurs.
Les eurodéputés réclament alors de nouvelles règles de transparence et de gestion des risques pour les systèmes d’IA, dans le but de garantir un développement éthique en Europe.
Le cœur du projet se compose en effet d’une liste de règles imposées aux applications considérées à “haut risque”. Les députés ont notamment apporté des modifications aux pratiques interdites, notamment en ce qui concerne l’utilisation des systèmes IA à des fins intrusives et discriminatoires.
Sont par exemple interdits les systèmes de catégorisation biométrique utilisant des données sensibles (comme par exemple, le genre, la race, le statut de citoyenneté, la religion, l’orientation politique) ; ou bien la récupération aveugle de données biométriques provenant des médias sociaux ou de la vidéosurveillance pour créer des bases de données de reconnaissance faciale (violation des droits humains et du droit à la vie privée).
Le texte prévoit par ailleurs que les fournisseurs de modèles IA garantissent “un niveau élevé de protection des droits fondamentaux, de la santé et de la sécurité ainsi que de l’environnement, de la démocratie et de l’État de droit”. Ils seront chargés eux-mêmes d’évaluer et de limiter les risques, de respecter les exigences (en termes de conception, d’information et d’environnement), et de s’enregistrer dans la base de données de l’UE. Au niveau national, chaque pays membre aura ses propres autorités de contrôle désignées à l’avance.
Les députés ont cependant prévu des exceptions à ces règles, notamment pour les activités de recherche et les composants d’IA fournis dans le cadre de licences open source. Ils souhaitent promouvoir les “bacs à sable réglementaires”, qui se définissent comme des environnements contrôlés, et établis par les autorités publiques, où les systèmes d’IA pourront être testés avant leur déploiement.
“Nous avons œuvré pour soutenir l’innovation en matière d’IA en Europe et pour donner aux jeunes entreprises, aux PME et à l’industrie un espace leur permettant de croître et d’innover, tout en protégeant les droits fondamentaux, en renforçant la surveillance démocratique et en garantissant un système mature de gouvernance et de mise en œuvre de l’IA” – Brando Benifei, corapporteur du texte
Ce projet de mandat de négociation doit être approuvé par l’ensemble du Parlement lors d’un vote attendu en juin prochain, avant de débuter les négociations avec le Conseil sur la forme finale de la législation.
