Le Parlement européen a adopté par 364 voix pour, 274 contre et 52 abstentions, une résolution sur l’intelligence artificielle (IA) : questions relatives à l’interprétation et à l’application du droit international dans la mesure où l’Union est concernée dans les domaines des utilisations civiles et militaires ainsi qu’à l’autorité de l’État en dehors du champ d’application de la justice pénale.
Cadre de l'UE sur l'IA et principes directeurs
Le Parlement a plaidé pour l’adoption d’un cadre juridique européen commun assorti de définitions harmonisées et de principes éthiques communs, y compris pour l’utilisation de l’IA à des fins militaires. L’IA au service de la défense devrait être responsable, équitable, traçable, fiable et gouvernable. Dans tous les cas, les technologies devraient être développées de manière sûre et rigoureuse sur le plan technique.
De plus, l’IA qui représente un progrès scientifique ne devrait pas entraîner de régression du droit mais devrait au contraire toujours être encadrée par celui-ci. En aucun cas l’IA, la robotique et les technologies connexes ne devraient enfreindre les droits fondamentaux, la démocratie et l’état de droit.
Les députés ont rappelé que l’IA ne saurait remplacer l’être humain dans le processus judiciaire lorsqu’il est question de rendre des jugements ou de prendre une quelconque décision définitive. Ainsi, lors du recours à des éléments de preuve émanant de technologies faisant appel à l’IA, les autorités judiciaires devraient avoir l’obligation de motiver leurs décisions.
Droit international public et utilisations militaires de l’intelligence artificielle
Le Parlement a souligné que le recours à l’IA était l’occasion de renforcer la sécurité de l’Union européenne et de ses citoyens et qu’il était essentiel que l’Union adopte une démarche cohérente dans les prochains débats qui auront lieu à ce sujet au niveau international. Il a invité l’Union à prendre l’initiative et à jouer, avec les Nations unies et la communauté internationale, un rôle actif dans la promotion d’un cadre mondial régissant l’utilisation de l’IA à des fins militaires ou autres, en veillant à ce que cette utilisation observe les limites strictes fixées par le droit international et le droit humanitaire international.
Le Parlement a affirmé que l’IA utilisée dans un contexte militaire et civil devait faire l’objet d’un véritable contrôle humain, de sorte qu’à tout moment, une personne humaine ait la possibilité de la corriger, de l’interrompre ou de la désactiver en cas de comportement imprévu, d’intervention accidentelle, de cyberattaques, d’ingérence de tiers dans une technologie fondée sur l’IA ou d’acquisition par des tiers d’une telle technologie.
La prise de décision autonome ne devrait pas exonérer l’être humain de sa responsabilité et les humains devraient toujours assumer la responsabilité ultime des processus de prise de décision, de façon à pouvoir établir l’identité de la personne responsable de la décision.
Systèmes d’armes létales autonomes (SALA)
Les députés ont rappelé que le Parlement a demandé l'élaboration et l'adoption urgente d'une position commune sur les SALA, empêchant la mise au point, la production et l'utilisation de systèmes d'armes capables d'attaquer sans contrôle humain significatif, ainsi que l'ouverture de négociations en vue de leur interdiction. Ils ont insisté sur la nécessité d’une stratégie à l’échelle de l’Union contre les SALA et d’une interdiction des «robots tueurs».
L'utilisation de systèmes d'armes autonomes létales soulève des questions éthiques et juridiques fondamentales sur la capacité des humains à contrôler ces systèmes. Ces systèmes devraient répondre à un ensemble minimal d’exigences, ne devraient être utilisés qu'en dernier recours et ne devraient être considérés comme licites que s'ils sont soumis à un contrôle humain strict.
Autorité de l’État: exemples du domaine civil, dont la santé et la justice
Le Parlement a invité les États membres à évaluer les risques liés à l’IA avant d’automatiser les activités placées sous l’autorité de l’État, telles que l’administration de la justice. Il a demandé à la Commission d’envisager, sur la base d’une évaluation, l’application d’un moratoire sur l’utilisation des systèmes de reconnaissance faciale jusqu’à ce qu’il soit considéré que les normes techniques respectent pleinement les droits fondamentaux et que des garanties strictes soient mises en place pour prévenir les abus.
Les députés ont exprimé de sérieuses préoccupations concernant certaines applications de notation sociale très intrusives qui ont été développées, car elles mettent sérieusement en danger le respect des droits fondamentaux. Ils ont demandé l'interdiction explicite de l'utilisation de la notation sociale de masse (pour le suivi et la notation des citoyens) par les autorités publiques comme moyen de restreindre les droits des citoyens.
De plus, étant donné que l’IA est appelée à jouer un rôle de plus en plus fondamental en matière de santé, notamment grâce aux algorithmes d’aide au diagnostic, à la chirurgie assistée par robot, aux prothèses intelligentes, le Parlement a insisté pour que toutes les utilisations de l’IA en matière de santé publique respectent la protection des données personnelles des patients et évitent la dissémination incontrôlée de ces données.
Transport
Les députés ont pris note du potentiel économique important des applications de l'IA dans ce domaine. Ils ont souligné la nécessité de promouvoir l'IA pour favoriser la multimodalité, l'interopérabilité et l'efficacité énergétique de tous les modes de transport, y compris dans le domaine de la logistique militaire.
Ils ont également souligné que la circulation de véhicules autonomes dans l’Union européenne, susceptible d’entraîner un nombre particulièrement élevé de litiges de droit international privé, devrait faire l’objet d’une réglementation européenne particulière précisant le régime juridique applicable en cas de dommages transfrontaliers.