Même un procès de 2.4 milliards de dollars ne suffira pas à mettre fin à la haine en ligne – la Silicon Valley a été spécialement conçue pour l’intensifier

En octobre 2021, le professeur Meareg Amare (photo) était doxxed sur Facebook. Quelques semaines plus tard, il a été brutalement assassiné à son domicile, écrit Courteney Mukoyi.

Aujourd'hui, Meta, la société mère de Facebook, est confrontée à une Poursuite de 2.4 milliard de dollars, accusé d'avoir incité à la violence dans le pays natal d'Amare, l'Éthiopie.

La divulgation d'informations personnelles par Amare n'était pas un hasard. Ses informations ne sont pas tombées entre de mauvaises mains, elles ont été délibérément amplifiées pour appeler à une justice violente et justicière. 

Dans le monde d’aujourd’hui, le rôle de l’État dans l’enquête sur les méfaits et la protection des innocents a été supplanté par des groupes en ligne qui agissent comme juge, jury et bourreau.

Et pas seulement en Éthiopie. 

En Inde, 20 personnes ont été assassinés en l'espace de deux mois après avoir été accusé d'enlèvement d'enfant via WhatsApp en 2018. 

Peu de temps après, l’Allemagne a été le théâtre d’émeutes xénophobes après rumeurs sur les réseaux sociaux Des émeutes historiques ont éclaté au Royaume-Uni l'année dernière, suite au meurtre tragique de trois jeunes filles à Southport, attisées par une vague de violences. désinformation sur l'identité du meurtrier présumé.

Dans chacun de ces cas, la désinformation visait les communautés minoritaires ou musulmanes, qui sont déjà confrontées à des problèmes de sécurité. niveaux record de crimes haineux. 

Dès sa naissance, un algorithme commence à muter, apprenant comment – ​​et qui – haïr en fonction des données et des schémas qu'il assimile. Tel l'effet papillon, la moindre trace de biais ou de discrimination est instantanément amplifiée. 

Dès lors, il devient rapidement méconnaissable. Incontrôlable. Même pour son créateur. 

Mais même s’il le voulait, Mark Zuckerberg ne pourrait pas tout arrêter. 

Non seulement la machine a dépassé son créateur, mais aucun des acteurs concernés ne dispose de tous les outils nécessaires pour la maîtriser. Les géants de la technologie possèdent l'expertise technique, mais n'ont ni la volonté ni la liberté juridique d'agir. Les gouvernements nationaux disposent du pouvoir législatif, mais ils agissent beaucoup trop lentement pour suivre le rythme de l'innovation. Et les organisations de la société civile comprennent peut-être les dangers mieux que quiconque, mais manquent pourtant de l'infrastructure ou de l'influence nécessaires pour imposer le changement.

Prenons par exemple l’UE Loi sur les services numériques – proposé pour la première fois fin 2020 mais non appliqué avant 2024. Au cours de la longue période de son développement – ​​ChatGPT n'est sorti qu'en 2022 – le paysage numérique a radicalement changé, laissant ses règles obsolètes avant même leur introduction. 

Depuis l’introduction de la loi, son application – qui comprend les mesures La lutte contre les discours de haine en ligne et l'amplification algorithmique des contenus extrémistes s'est avérée difficile. Les attaques contre les minorités, notamment les musulmans et les juifs, ont atteint un niveau record. L'extrême droite a même d'utiliser l'acte comme justification pour leur propre rhétorique déshumanisante. 

À l'ONU le mois dernier, Mohammad Al-Issa, secrétaire général de la Ligue islamique mondiale, a affirmé que l'islamophobie était une crise croissante. Al-Issa a déclaré à plusieurs reprises averti que l'IA pourrait instrumentaliser les réseaux sociaux, diffuser de la désinformation et recruter des extrémistes – c'est précisément pourquoi il soutient que les chefs religieux doivent être associés à l'élaboration de cadres éthiques. Ses avertissements font écho à ceux du pape François et du Vatican, qui affirment que l'IA est une « l'ombre du mal».

Les efforts d'Al-Issa pour contrer la haine sont bien antérieurs au débat actuel sur l'IA. En janvier 2020, il dirigeait une délégation La visite de dirigeants musulmans au mémorial d'Auschwitz-Birkenau – l'une des plus importantes visites islamiques sur le site – témoigne d'un engagement plus large à lutter contre l'héritage de haine et de violence. Aujourd'hui, alors que la guerre fait rage au Moyen-Orient, cet engagement à favoriser la compréhension interconfessionnelle est plus urgent que jamais.

« Si les chefs religieux n’ont pas de siège aux événements [d’AI] », a averti Al-Issa dans un article récent« …le débat en cours sur l’IA manquerait d’experts importants en la matière, nécessaires pour éviter toute possibilité d’une nouvelle ère d’extrémisme alimenté par l’IA. »

Si l’on veut progresser, la technologie, la politique et la communauté doivent cesser de travailler de manière isolée et commencer à élaborer une réponse partagée et coordonnée. 

Premièrement, nous devons investir dans la recherche et le développement au-delà de la bulle de la Silicon Valley, réduisant ainsi notre dépendance à la gouvernance de plus en plus erratique du président Trump. Ensuite, nous devrions introduire de nouvelles règles obligeant les entreprises et les organisations à consulter les parties prenantes de la communauté tout au long de leurs opérations et à garantir que les algorithmes sont entraînés sur des ensembles de données inclusifs.

Parallèlement, l'UE doit explorer de nouveaux outils pour détecter et atténuer les biais inévitables des systèmes d'IA. Nous devrions également déployer des programmes universels de formation à l'IA et des plateformes de responsabilisation, afin de sensibiliser le public aux menaces potentielles et de lui donner les moyens de signaler toute plainte. 

Ce qui s'est passé en Éthiopie ou à Southport n'est pas une anomalie, c'est un avertissement : les plateformes d'aujourd'hui ne sont plus des espaces neutres. Elles contribuent activement à façonner l'opinion et les comportements publics, trop souvent de manière à inciter à la violence et à polariser les sociétés.

En fin de compte, ce procès contre Meta ne concerne pas seulement la responsabilité, mais aussi la prévention. Les normes réglementaires seront certainement utiles, mais les restrictions doivent être compensées par la diversification.

Ce n’est qu’à ce moment-là que nous pourrons conserver les avantages de ces technologies sans abandonner l’idée même de justice à une foule algorithmique incontrôlable.

À propos de l'auteur:

Courteney Mukoyi est le fondateur et directeur de la Justice Code Foundation, qui exploite les technologies existantes et émergentes pour promouvoir les droits humains au sein des communautés zimbabwéennes. Passionné de CivicTech, il est titulaire d'un master en commerce international de l'Université du Cap.

Muyoki a reçu de nombreux prix, dont le Prix de l'innovation démocratique 2022 et le Prix Wangari Maathai de l'impact de l'IA 2023. En 2023, il a été sélectionné pour la bourse Mandela Washington. Il siège actuellement au Conseil consultatif des jeunes du CDH et au Comité de réflexion des jeunes de l'Union européenne. Il a collaboré avec diverses organisations, dont l'Accountability Lab et l'Union africaine, pour promouvoir l'utilisation des technologies et de l'intelligence artificielle dans les domaines des droits humains et de l'engagement civique. Entrepreneur en série, il a également fondé TopSure, une start-up d'assurance-technologie, qui a marqué le début de son parcours vers la création de startups licornes en Afrique.

Partagez cet article: