Le Parlement européen a adopté une résolution, déposée par la commission du marché intérieur et de la protection des consommateurs, sur les processus de prise de décision automatisés: assurer la protection des consommateurs et la libre circulation des biens et des services.
Les députés estiment que les avancées technologiques rapides qui ont lieu dans les domaines de l’intelligence artificielle (IA) présentent un certain nombre de défis pour la protection des consommateurs et qu’une approche commune de l’Union européenne en matière de développement des processus de prise de décision automatisés contribuerait à atténuer les risques qui y sont liés tout en aidant l’Union à promouvoir sa démarche et ses valeurs dans le monde entier.
Choix, confiance et protection des consommateurs
Tout en saluant le potentiel que présente la prise de décision automatisée pour offrir des services innovants et améliorés aux consommateurs, y compris de nouveaux services numériques, les députés sont cependant convaincus que, lorsque les consommateurs interagissent avec un système qui automatise la prise de décision, ils devraient être informés de la manière dont le système fonctionne, savoir comment joindre un être humain disposant de pouvoirs de décision, et connaître la manière dont les décisions du système peuvent être contrôlées et corrigées.
La Commission a été invitée à :
- surveiller la mise en œuvre des nouvelles règles au titre de la directive (UE) 2019/2161 sur une meilleure application des règles de l’Union en matière de protection des consommateurs qui exige des professionnels qu’ils informent les consommateurs lorsque les prix des biens ou services ont été personnalisés sur la base d’une prise de décision automatisée et du profilage du comportement du consommateur ;
- surveiller la mise en œuvre du règlement (UE) 2018/302 sur le blocage géographique pour veiller à ce que la prise de décision automatisée ne soit pas utilisée pour exercer une discrimination à l’égard de certains consommateurs en fonction de leur nationalité, de leur lieu de résidence ou du lieu où ils se trouvent temporairement;
- vérifier si les obligations imposées aux professionnels permettent effectivement aux consommateurs d’opérer un choix et garantissent une protection suffisante des consommateurs et examiner si des mesures supplémentaires sont nécessaires pour garantir un ensemble de droits afin de protéger les consommateurs dans le contexte de l’IA et de la prise de décision automatisée.
Cadre de sécurité et de responsabilité pour les produits
Le Parlement a demandé à la Commission :
- de présenter des propositions afin d’adapter les règles de sécurité de l’Union européenne pour les produits faisant l’objet d’un acte législatif de l’Union fixant des exigences harmonisées, y compris les directives relatives aux machines, à la sécurité des jouets, aux équipements radioélectriques et la directive «basse tension», et pour les produits «non harmonisés» couverts par la directive relative à la sécurité générale des produits;
- d’élaborer un système d’évaluation des risques pour l’IA et la prise de décision automatisée afin de garantir une approche cohérente de la mise en œuvre de la législation relative à la sécurité des produits dans le marché intérieur ;
- de réexaminer la directive sur la responsabilité du fait des produits défectueux en vue de mettre à jour les concepts tels que «produit», «dommage» et «défaut», et d’adapter les règles relatives à la charge de la preuve.
Cadre réglementaire pour les services
Le Parlement estime que les règles en matière de protection des consommateurs, d’éthique et de responsabilité prévues par le cadre réglementaire existant relatif aux services - qualifications professionnelles, contrôle de proportionnalité, commerce électronique, règlement général sur la protection des données (RGPD) etc. - devraient s’appliquer aussi bien aux services traditionnels qu’aux services intégrant des processus de prise de décision automatisé.
De l’avis des députés, les êtres humains devraient toujours être, au final, les responsables des décisions qui sont prises dans le contexte de services professionnels des professions du domaine médical, juridique et comptable, ainsi que dans le secteur bancaire, et être en mesure de passer outre lesdites décisions. L’importance du contrôle ou d’une surveillance indépendante par des professionnels qualifiés en cas de prise de décision automatisée lorsque des intérêts publics légitimes sont en jeu a également été rappelée.
Qualité et transparence dans la gouvernance des données
Le Parlement a souligné l’importance d’utiliser uniquement des données non faussées et de qualité pour améliorer les résultats des systèmes algorithmiques et renforcer la confiance et l’acceptation des consommateurs, en particulier ceux qui se trouvent en situation de vulnérabilité.
Des structures de réexamen sont nécessaires au sein des processus des entreprises et les consommateurs devraient être en mesure de réclamer un réexamen et une correction, par un être humain, des décisions automatisées qui sont définitives. Les algorithmes sous-tendant les capacités de décision automatisée devraient être transparents et explicables vis-à-vis des autorités de surveillance du marché.
La Commission a été invitée à surveiller étroitement la mise en œuvre du règlement sur les relations entre les plateformes et les entreprises, en particulier les règles relatives à la transparence des classements, qui ont recours à des processus de prise de décision automatisés.