La résistance à la surveillance biométrique de masse augmente

La campagne pour l'interdiction du déploiement controversé de soins du visage
systèmes de reconnaissance dans les espaces publics gagne des partisans :
Le rapporteur du Parlement sur la future loi sur l'IA, Brando Benifei, a
s'est prononcé en faveur d'une interdiction lors d'un débat de haut niveau mettant en vedette le
le réalisateur primé de 'Coded Bias', Shalini Kantayya; député européen et
rapporteur sur la prochaine loi sur l'intelligence artificielle (S&D), le
Contrôleur européen de la protection des données, Wojciech Wiewiórowski ; député européen dans le
Groupe Verts/ALE et rapporteur fictif pour l'intelligence artificielle
Agir, Kim van Sparrentak; chef de secteur intelligence artificielle
politique à la DG CNECT à la Commission européenne, Irina Orssich ; et EDRi
chargé de mission et coordinateur de l'initiative citoyenne européenne
"Récupérez votre visage", Ella Jakubowska.

La discussion a eu lieu avant deux décisions parlementaires importantes
sur l'utilisation de l'intelligence artificielle dans l'Union européenne ; prochaines semaines
vote en plénière sur l'intelligence artificielle en droit pénal et les prochaines
Loi sur l'intelligence artificielle. Il a été organisé dans le cadre des Verts/ALE
campagne pour interdire la surveillance biométrique de masse dans les espaces publics.[1]

Au cours du débat, le contrôleur européen de la protection des données, Wojciech
Wiewiórowski a fait écho aux préoccupations de Patrick Breyer et du Reclaim
Your Face Initiative[2], cette surveillance biométrique de masse en
des lieux accessibles pourraient entraver une société diversifiée et entraîner
« effets glaçants ». Rapporteur pour la loi sur l'IA, Brando Benifei a également
inquiétudes partagées sur le risque posé par la surveillance biométrique de masse pour
droits fondamentaux, en disant « Entre les mains des autorités des États membres
où l'état de droit et la séparation des pouvoirs pourraient ne pas être pleinement
respecté, [la reconnaissance biométrique en temps réel dans les espaces publics] peut conduire
à des abus massifs ».[3] Il a ajouté qu'il soutenait l'interdiction de
surveillance biométrique de masse dans les espaces accessibles au public proposée par
la Commission européenne dans la proposition de loi sur l'IA[4], mais que le
les exceptions suggérées par la Commission sont trop larges.

Le panel a également discuté du sujet du biais algorithmique, avec Kim van
Sparrentak exprimant sa préoccupation quant à la neutralité qui est couramment
attribué à des décisions algorithmiques : « Nous avons créé ce mythe qui
les ordinateurs ont toujours raison, et c'est quelque chose que nous devons vraiment être
attention, en particulier dans le système judiciaire. Ces préoccupations étaient
repris par Ella Jakubowska, qui a averti que l'utilisation de l'IA par les forces de l'ordre
renforcent encore les schémas de discrimination et de surveillance policière excessive.
Elle a en outre souligné que même si beaucoup appellent à simplement réparer le
biais dans les ensembles de données d'IA, le dernier rapport d'EDRi "révèle les limites de
essayer de résoudre des problèmes sociaux complexes avec la technologie ».[5]

L'événement s'inscrit dans le contexte du vote de la semaine prochaine sur l'Union européenne
le rapport du Parlement[6] sur l'intelligence artificielle en droit pénal,
qui devrait exprimer l'opposition du Parlement à la biométrie
surveillance de masse, ainsi que dans le cadre d'une campagne EDRi exhortant
Des représentants européens s'élèvent contre la masse biométrique
surveillance au Conseil des technologies commerciales UE-États-Unis aujourd'hui.[7]

Il offre également aux législateurs et à la société civile l'occasion de discuter
la prochaine loi sur l'intelligence artificielle, qui sera déterminante pour
façonner l'utilisation de l'intelligence artificielle en Europe, et donnera
les législateurs une chance de voter pour interdire la surveillance biométrique de masse tout au long
l'Union. Pour reprendre les mots de Shalini Kantayya : « Nous sommes à un moment charnière
dans l'histoire où les technologies du futur dépassent les lois qui
les gouverner [...] Je suis profondément convaincu que des conversations comme celle-ci
peut changer le monde. L'Europe contribue à établir une norme mondiale sur la façon dont
ces technologies sont utilisées dans le monde entier.

[1] Campagne des Verts/ALE contre la surveillance biométrique de masse
[2] Initiative citoyenne Reclaim Your Face
[3] Acte AI Rapporteur, intervention de Brando Benifei
[4] Projet de loi sur l'IA
[5] Le dernier rapport d'EDRI
[6] Rapport du Parlement européen sur l'intelligence artificielle dans le domaine pénal
droit
[7] Campagne EDRi

Vous avez manqué l'événement?

Vous pouvez revoir le débat du panel ici.
Vous pouvez revoir l'intervention de Brando Benifei, rapporteur d'AI act ici.

Lectures complémentaires

EDéclaration DPS/EDPB demandant l'interdiction de BMS

Partagez cet article: