Le Parlement européen a adopté par 623 voix pour, 12 contre et 61 abstentions, une résolution sur l’intelligence artificielle dans les domaines de l’éducation, de la culture et de l’audiovisuel.
Les députés estiment que le développement, le déploiement et l’utilisation de l’IA dans les domaines de l’éducation, de la culture et de l’audiovisuel doivent respecter pleinement les droits fondamentaux, les libertés et les valeurs consacrés dans les traités de l’Union européenne, en particulier la dignité humaine, la protection de la vie privée et des données à caractère personnel, la non-discrimination, la liberté d’expression et d’information, la diversité culturelle et les droits de propriété intellectuelle.
L’éducation, la culture et le secteur audiovisuel sont des domaines où l’utilisation de l’IA et des technologies connexes est délicate, étant donné que celles-ci peuvent avoir une incidence sur les droits fondamentaux et les valeurs. Les députés ont donc souligné l’importance de respecter des principes éthiques, dans ces domaines, lors du développement, du déploiement et de l’utilisation de l’IA et des technologies connexes, ce qui comprend les logiciels et les algorithmes ainsi que les données qu’ils utilisent et qu’ils produisent.
La Commission est invitée à présenter un cadre réglementaire général, qui s’applique à toutes les applications de l’IA, et à le compléter par des règles propres à chaque secteur.
Éducation
Le Parlement a souligné l’importance de veiller, à l’échelle de l’Union, à la maîtrise de compétences fondamentales dans les domaines du numérique et de l’IA en développant les possibilités de formation offertes aux enseignants. La Commission est invitée à faire des compétences numériques, de l’éducation et de la formation aux médias et des compétences liées à l’IA des priorités de son plan d’action, tout en accordant une attention particulière aux enfants et aux jeunes en situation précaire qui ont besoin d’un soutien particulier dans le domaine de l’éducation numérique.
Les députés ont appelé la Commission à inclure l’éducation dans le cadre réglementaire applicable aux systèmes d’IA à haut risque, compte tenu du caractère particulièrement sensible des données sur les élèves, étudiants et autres apprenants. Ils ont souligné que, dans le domaine de l’éducation, le déploiement d’applications de l’IA doit non seulement permettre la participation des éducateurs, des apprenants et de la société en général, mais aussi tenir compte des besoins de chacun et des bénéfices escomptés, afin de garantir un usage approprié et éthique de l’IA.
La Commission est invitée à prendre en considération les initiatives en matière d’IA et de robotique dans le domaine éducatif dans ses prochaines propositions législatives sur l’IA. De leur côté, États membres devraient investir dans des équipements numériques pour les écoles et utiliser des fonds de l’Union à cette fin.
Patrimoine culturel
Le Parlement a souligné que les technologies de l’IA peuvent jouer un rôle important dans la préservation, la restauration, la documentation, l’analyse, la promotion et la gestion du patrimoine culturel matériel et immatériel. Les technologies de l’IA peuvent accroître la visibilité de la diversité culturelle en Europe en offrant aux institutions culturelles de nouvelles possibilités de créer des outils innovants pour documenter les sites du patrimoine culturel et les rendre plus accessibles.
Les députés ont souligné, dans ce contexte, l’importance de l’échange de bonnes pratiques entre les États membres, les établissements d’enseignement et les institutions culturelles et autres parties prenantes.
Culture et création
La résolution a insisté sur la nécessité d’établir une vision cohérente des technologies de l’IA au sein des secteurs de la culture et de la création au niveau de l’Union. Les États membres sont invités à se concentrer davantage sur la culture dans leurs stratégies nationales en matière d’IA pour faire en sorte que les secteurs de la culture et de la création fassent le choix de l’innovation et restent compétitifs, et afin de garantir la sauvegarde et la promotion de la diversité culturelle au niveau de l’Union dans le nouveau contexte numérique.
Les députés ont souligné l’importance de préciser les conditions d’utilisation des contenus protégés par le droit d’auteur en tant que données d’entrée (images, musique, films, bases de données, etc.) et dans le cadre de la production de données de sortie culturelles et audiovisuelles, qu’elles soient créées par des humains avec l’aide de l’IA ou générées de manière autonome par des technologies d’IA. Ils ont invité la Commission et les États membres à se pencher sur la question des contenus générés par l’IA et sur les enjeux qu’ils représentent pour la qualité d’auteur et les violations des droits d’auteur.
Secteur audiovisuel
L’IA est souvent utilisée pour permettre aux algorithmes de prise de décision automatique de diffuser et d’organiser le contenu culturel et créatif présenté aux utilisateurs. Ces algorithmes sont opaques pour les utilisateurs.
Les députés ont demandé que les algorithmes de recommandation et le marketing personnalisé soient faciles à expliquer et transparents, afin de permettre aux consommateurs de comprendre ces processus d’une manière correcte et complète, et de s’assurer que les services personnalisés ne présentent pas un caractère discriminatoire. Les consommateurs devraient être informés lorsqu’ils interagissent avec un processus de décision automatisé et leurs choix et comportements ne devraient pas être restreints.
La Commission est invitée à établir un cadre éthique clair pour l’utilisation des technologies fondées sur l’IA dans les médias afin d’éviter toutes formes de discrimination et de garantir l’accès à des contenus culturellement et linguistiquement variés à l’échelle de l’Union, sur la base d’algorithmes responsables, transparents et inclusifs, tout en respectant les choix et les préférences de chacun.
Désinformation en ligne: trucages vidéo ultra-réalistes
Le Parlement a souligné l’importance de veiller au pluralisme des médias en ligne et hors ligne pour garantir la qualité, la diversité et la fiabilité des informations disponibles.
La Commission est invitée à évaluer l’incidence des technologies liées à l’IA lors de la création des trucages vidéo ultra‑réalistes, à établir des cadres juridiques appropriés pour régir leur création, leur production ou leur distribution à des fins malveillantes, et à proposer des recommandations d’actions contre toute menace utilisant l’IA contre le principe d’élections libres et équitables et contre la démocratie.