Les technologies de l'IA doivent prévenir la discrimination et protéger la diversité

Réduire les préjugés sexistes, sociaux ou culturels dans les technologies de l'IA est essentiel, a déclaré la commission de la culture et de l'éducation dans une résolution adoptée mardi 16 mars. CULT 

L'utilisation des technologies de l'intelligence artificielle (IA) dans l'éducation, la culture et le secteur audiovisuel pourrait avoir un impact sur «l'épine dorsale des droits fondamentaux et des valeurs de notre société», déclare la commission de la culture et de l'éducation dans une résolution adoptée par 25 voix pour , aucun contre et quatre abstentions. Il demande que toutes les technologies d'IA soient réglementées et formées afin de protéger la non-discrimination, l'égalité des sexes, le pluralisme, ainsi que la diversité culturelle et linguistique.

Réglementer les algorithmes multimédias pour protéger la diversité

Pour éviter que les recommandations de contenu basées sur des algorithmes, en particulier dans les services de streaming vidéo et musical, n'affectent négativement la diversité culturelle et linguistique de l'UE, les députés demandent que des indicateurs spécifiques soient développés pour mesurer la diversité et garantir la promotion des œuvres européennes..

La Commission doit établir un cadre éthique clair sur la manière dont les technologies de l'IA sont utilisées dans les médias de l'UE afin de garantir aux citoyens l'accès à des contenus culturellement et linguistiquement diversifiés. Un tel cadre devrait également lutter contre l'utilisation abusive de l'IA pour diffuser de fausses informations et de la désinformation, ajoutent-ils.

Enseigner les valeurs de l'UE à l'intelligence artificielle

L'utilisation de données biaisées qui reflètent l'inégalité ou la discrimination entre les sexes déjà existante devrait être évitée lors de la formation à l'IA, insistent les députés. Au lieu de cela, des ensembles de données inclusifs et éthiques doivent être développés, avec l'aide des parties prenantes et de la société civile, pour être utilisés pendant le processus «d'apprentissage en profondeur».

«Nous nous sommes battus pendant des décennies pour établir nos valeurs d'inclusion, de non-discrimination, de multilinguisme et de diversité culturelle, que nos citoyens considèrent comme un élément essentiel de l'identité européenne. Ces valeurs doivent également être reflétées dans le monde en ligne, où les algorithmes et les applications d'IA sont de plus en plus utilisés. Développer des systèmes de données de qualité et inclusifs à utiliser dans l'apprentissage profond est vital, tout comme un cadre éthique clair pour garantir l'accès à des contenus culturellement et linguistiquement diversifiés », a déclaré le rapporteur Sabine Verheyen (PPE, DE) après le vote.

Les députés soulignent enfin que les enseignants doivent toujours être en mesure de corriger les décisions prises par l'IA, comme l'évaluation finale des étudiants. Dans le même temps, ils soulignent la nécessité de former les enseignants et préviennent qu'ils ne doivent jamais être remplacés par les technologies de l'IA, en particulier dans l'éducation de la petite enfance.

Prochaines étapes

La Chambre plénière doit voter sur la résolution en avril (à confirmer).

La Commission devrait proposer un cadre législatif pour une IA digne de confiance en avril 2021, dans le cadre du suivi de sa Livre blanc sur l'intelligence artificielle.

Pour en savoir plus 

• Déclaration vidéo de la rapporteure Sabine VERHEYEN (PPE, DE) sur l'impact de l'intelligence artificielle sur la culture  
• Étapes de la procédure 
• Photos gratuites, matériel audio et vidéo sur l'intelligence artificielle  
• Commission de la culture et de l'éducation 
• Recherche du Parlement européen: information introductive sur l'utilisation de l'intelligence artificielle dans les secteurs culturels et créatifs  
• Parlement européen Recherche: analyse approfondie de l'utilisation de l'intelligence artificielle dans le secteur audiovisuel  
• Parlement européen Recherche: présentation de l'utilisation de l'intelligence artificielle dans l'éducation  

Partagez cet article: