La commission du marché intérieur et de la protection des consommateurs et la commission des libertés civiles, de la justice et des affaires intérieures ont adopté le rapport conjoint de Brando BENIFEI (S&D, IT) et Dragoş TUDORACHE (Renew, RO) sur la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’Union.
Compte tenu de l'impact majeur que l'intelligence artificielle peut avoir sur la société et de la nécessité d'instaurer la confiance, il est essentiel que l'intelligence artificielle et son cadre réglementaire soient élaborés dans le respect des valeurs de l'Union inscrites à l'article 2 du traité UE, des droits et libertés fondamentaux inscrits dans les traités, de la charte et du droit international en matière de droits de l'homme.
Les commissions compétentes ont recommandé que la position du Parlement européen adoptée en première lecture dans le cadre de la procédure législative ordinaire modifie la proposition comme suit:
Objet du règlement
Le règlement proposé devrait avoir pour objet de promouvoir l'adoption d'une intelligence artificielle axée sur le facteur humain et digne de confiance et d'assurer un niveau élevé de protection de la santé, de la sécurité, des droits fondamentaux, de la démocratie et de l'État de droit, ainsi que de l'environnement, contre les effets néfastes des systèmes d'intelligence artificielle dans l'Union.
Le règlement devrait établir un cadre juridique uniforme, en particulier pour le développement, la commercialisation, la mise en service et l’utilisation de l’intelligence artificielle dans le respect des valeurs de l’Union, et garantir la libre circulation transfrontière des biens et services fondés sur l’IA, empêchant ainsi les États membres d’imposer des restrictions concernant le développement, la commercialisation et l’utilisation de systèmes d’intelligence artificielle (systèmes d’IA), sauf autorisation expresse du présent règlement.
Certains systèmes d’IA peuvent également avoir une incidence sur la démocratie, l’état de droit et l’environnement. Ces préoccupations sont spécifiquement prises en compte dans les secteurs critiques et les cas d’utilisation énumérés dans les annexes du présent règlement.
Le texte modifié stipule que le règlement devrait préserver les valeurs de l’Union en facilitant la répartition des bénéfices de l’intelligence artificielle dans la société, en protégeant les personnes, les entreprises, la démocratie, l’état de droit et l’environnement contre les risques tout en stimulant l’innovation et l’emploi et en faisant de l’Union un acteur de premier plan dans ce domaine.
Principes généraux applicables à tous les systèmes d’IA
Tous les opérateurs qui relèvent du règlement devraient mettre tout en œuvre pour développer et utiliser des systèmes d’IA ou des systèmes d’IA à finalité générale conformément aux principes généraux suivants : i) «facteur humain et contrôle humain»; ii) «solidité technique et sécurité»; iii) «protection de la vie privée et gouvernance des données»; iv) «transparence»; v) «diversité, non-discrimination et équité»; vi) «bien-être social et environnemental».
Champ d'application
Pour soutenir la recherche et l'innovation, le règlement ne devrait pas porter atteinte aux activités de recherche et de développement et respecter la liberté de la recherche scientifique. Il est donc proposé d'exclure de son champ d'application les systèmes d'IA spécifiquement développés à des fins exclusives de recherche et de développement scientifiques et de veiller à ce que le règlement n'affecte pas autrement les activités de recherche et de développement scientifiques sur les systèmes d'IA.
Les députés ont également ajouté des exemptions pour les activités de recherche et les composants d'IA fournis sous licence libre. La nouvelle législation encourage les «bacs à sable réglementaires» offrant des un environnement contrôlé, mis en place par les autorités publiques pour tester l'IA avant son déploiement.
Maîtrise de l'IA
Les députés ont souligné que, lors de la mise en œuvre du règlement proposé, l'Union et les États membres devraient promouvoir des mesures visant à développer un niveau suffisant de maîtrise de l’IA, dans tous les secteurs et en tenant compte des différents besoins des groupes de fournisseurs, de déployeurs et de personnes concernées, notamment au moyen de programmes d’éducation et de formation, de qualification et de reconversion, tout en assurant un équilibre approprié entre les hommes et les femmes et entre les tranches d’âge, afin de permettre un contrôle démocratique des systèmes d’IA.
IA à haut risque
Les députés ont élargi la classification des domaines à haut risque pour y inclure les atteintes à la santé, à la sécurité, aux droits fondamentaux ou à l'environnement. Ils ont également ajouté à la liste des domaines à haut risque les systèmes d'IA destinés à influencer les électeurs lors des campagnes politiques et les systèmes de recommandation utilisés par les plateformes de médias sociaux (qui comptent plus de 45 millions d'utilisateurs en vertu de la législation sur les services numériques).
Les députés ont également ajouté les interdictions suivantes, telles que :
- les systèmes d'identification biométrique à distance «en temps réel» dans les espaces accessibles au public;
- les systèmes d'identification biométrique à distance «a posteriori», à la seule exception des forces de l'ordre pour la poursuite de crimes graves et seulement après autorisation judiciaire;
- les systèmes de catégorisation biométrique utilisant des caractéristiques sensibles (par exemple, le sexe, la race, l'appartenance ethnique, le statut de citoyen, la religion, l'orientation politique);
- les systèmes de police prédictive (basés sur le profilage, la localisation ou le comportement criminel antérieur);
- les systèmes de reconnaissance des émotions dans les services de police, la gestion des frontières, les lieux de travail et les établissements d'enseignement ; et
- la récupération aveugle de données biométriques provenant des médias sociaux ou de la vidéosurveillance pour créer des bases de données de reconnaissance faciale (violation des droits humains et du droit à la vie privée).
Le Bureau de l’IA
La proposition établit Le bureau de l’IA qui devrait être un organe indépendant de l'Union. Il est proposé que son siège soit situé à Bruxelles.
Il devrait notamment s'acquitter des tâches suivantes
- soutenir, conseiller et coopérer avec les États membres, les autorités nationales de surveillance, la Commission et les autres institutions, organes et organismes de l'Union en ce qui concerne la mise en œuvre du présent règlement;
- promouvoir la sensibilisation du public et la compréhension des avantages, des risques, des garanties, des droits et des obligations liés à l'utilisation des systèmes d'IA;
- faciliter l'élaboration de critères communs et une compréhension partagée par les opérateurs du marché et les autorités compétentes des concepts pertinents prévus par le présent règlement;
- assurer le suivi des systèmes d’IA à finalité générale et organiser un dialogue régulier avec les développeurs de systèmes d’IA à finalité générale en ce qui concerne leur conformité ainsi que les systèmes d’IA qui utilisent ces modèles d’IA.
Le bureau de l'IA devrait être responsable devant le Parlement européen et le Conseil, agir en toute indépendance et garantir un niveau élevé de transparence.
Base de données de l'UE sur les systèmes d'IA à haut risque
Le texte modifié souligne que la Commission devrait, en collaboration avec les États membres, créer et gérer une base de données publique de l'UE contenant des informations sur les systèmes d'IA à haut risque. Les informations contenues dans la base de données de l'UE doivent être librement accessibles au public.