La commission des affaires juridiques a adopté un rapport d’initiative de Gilles LEBRETON (ID, FR) sur l'intelligence artificielle : questions relatives à l’interprétation et à l’application du droit international dans la mesure où l’Union est concernée dans les domaines des utilisations civiles et militaires ainsi qu’à l’autorité de l’État en dehors du champ d’application de la justice pénale.
Le rapport a souligné les potentiels et les risques offerts par le développement, le déploiement et l'utilisation de l'intelligence artificielle (IA) pour la sécurité tant au sein de l'UE que dans ses relations extérieures.
Cadre de l'UE sur l'IA
Selon les députés, les citoyens européens pourraient bénéficier d'une approche réglementaire appropriée, efficace, transparente et cohérente au niveau de l'UE pour garantir que l'UE et ses États membres conservent le contrôle des réglementations à établir dans ce domaine, de sorte qu'ils ne soient pas contraints d'adopter ou d'accepter des normes fixées par d'autres.
Le rapport rappelle qu'un cadre commun de l'UE, avec des définitions harmonisées et des principes éthiques communs, doit couvrir le développement, le déploiement et l'utilisation de l'IA, de la robotique et des technologies connexes, et doit garantir le respect de la dignité humaine et des droits de l'homme. L'UE et ses États membres devraient avoir la responsabilité particulière de veiller à ce que l'IA - dans la mesure où elles peuvent être utilisées au-delà des frontières - soient centrées sur l'être humain, c'est-à-dire essentiellement destinée à être utilisée au service de l'humanité et du bien commun.
Cette responsabilité implique la nécessité d'examiner les questions d'interprétation et d'application du droit international liées à la participation active de l'UE aux négociations internationales, dans la mesure où l'UE est concernée par les utilisations civiles et militaires de l'IA, de la robotique et des technologies connexes, et où les questions d'autorité de l'État sur ces technologies ne relèvent pas de la justice pénale.
Droit international et utilisations militaires de l'intelligence artificielle
Les progrès impressionnants de l'intelligence artificielle (IA) constituent un défi pour le droit international, tant public que privé, et plus largement pour l'autorité des États. L'IA utilisée dans un contexte militaire et civil devrait être soumise à un contrôle humain significatif, de sorte qu'à tout moment, un humain ait les moyens de la corriger, de l'arrêter ou de la désactiver en cas de comportement imprévu, d'intervention accidentelle, de cyber-attaques ou d'interférence de tiers avec une technologie basée sur l'IA ou lorsque des tiers acquièrent une telle technologie.
Systèmes d'armes létales autonomes
Les députés ont souligné que le Parlement a demandé l'élaboration et l'adoption urgente d'une position commune sur les systèmes d'armes létales autonomes, empêchant la mise au point, la production et l'utilisation de systèmes d'armes capables d'attaquer sans contrôle humain significatif, ainsi que l'ouverture de négociations efficaces en vue de leur interdiction.
L'utilisation de systèmes d'armes autonomes létales soulève des questions éthiques et juridiques fondamentales sur la capacité des humains à contrôler ces systèmes. Ces systèmes ne devraient être utilisés qu'en dernier recours et ne devraient être considérés comme licites que s'ils sont soumis à un contrôle humain, puisque ce sont les humains qui doivent décider entre la vie et la mort.
Droits fondamentaux
Les députés ont exprimé de sérieuses préoccupations concernant certaines applications de notation sociale très intrusives qui ont été développées, car elles mettent sérieusement en danger le respect des droits fondamentaux. Ils ont demandé l'interdiction explicite de l'utilisation de la notation sociale de masse (pour le suivi et la notation des citoyens) par les autorités publiques comme moyen de restreindre les droits des citoyens.
Transport
Les députés ont pris note du potentiel économique important des applications de l'IA dans ce domaine. Ils ont souligné la nécessité de promouvoir l'IA pour favoriser la multimodalité, l'interopérabilité et l'efficacité énergétique de tous les modes de transport, y compris dans le domaine de la logistique militaire.
Pouvoir judiciaire
Les juges utilisent de plus en plus les technologies de l'IA dans la prise de décision et pour accélérer les procédures. Toutefois, des garanties doivent être introduites pour protéger les intérêts des citoyens.
Le rapport indique que l'IA ne peut pas remplacer les humains dans le processus judiciaire lorsqu'il s'agit de prononcer une sentence ou de prendre une décision finale de quelque nature que ce soit, car ces décisions doivent toujours être prises par un humain, et être strictement soumises à une vérification humaine et à une procédure régulière. L'IA, la robotique et les technologies connexes doivent être développées de manière sûre et techniquement rigoureuse.