IA, fausses informations et crise de conformité : quand les machines décident de votre avenir financier

L'intelligence artificielle bouleverse le secteur financier, et pas toujours en bien. Imaginez-vous vous voir refuser l'ouverture d'un compte bancaire sans la moindre explication. Aucune transaction suspecte, aucun antécédent de fraude, aucune sanction : un refus catégorique. C'est pourtant une réalité de plus en plus fréquente pour les entrepreneurs des marchés émergents qui tentent de transférer des fonds ou d'investir à l'étranger.

Derrière le rideau de la conformité

Les services de conformité des banques internationales sont autorisés à refuser leurs services sans justification. Ce qui était autrefois perçu comme une mesure de précaution judicieuse est devenu un obstacle majeur, notamment pour les transactions transfrontalières.

Les services d'agrégation tels que World-Check de Refinitiv, WorldCompliance de LexisNexis et Risk & Compliance de Dow Jones collectent et stockent d'énormes quantités de données personnelles sur les particuliers et leurs entreprises. En théorie, ces informations permettent aux banques de se conformer aux réglementations en matière de connaissance du client (KYC) et de lutte contre le blanchiment d'argent (LCB).

En pratique, une grande partie de ces données est collectée automatiquement sur Internet, à partir de registres officiels et d'articles de presse dont la fiabilité est loin d'être garantie. Des robots d'exploration automatisés collectent ce contenu dans des bases de données que le personnel chargé de la conformité vérifie rarement en détail. Le résultat est un classique « données erronées en entrée, données erronées en sortie », sauf qu'ici, ces données erronées peuvent exclure des entreprises légitimes du système financier mondial.

Comment les faux médias alimentent les machines

Les sites web de fausses informations, surnommés « sites kompromat » dans l'espace post-soviétique et en Europe de l'Est, constituent une source importante de données erronées. Des concurrents, d'anciens partenaires mécontents ou des maîtres chanteurs professionnels peuvent facilement y diffuser de fausses informations sur les entrepreneurs.

Cette pratique a donné naissance à un commerce florissant, reposant sur des centaines de sites diffamatoires dont les allégations ne sont étayées par aucune preuve crédible. Les poursuivre en justice ou les contraindre à retirer leurs fausses informations est extrêmement difficile : la propriété de ces sites est opaque et les mêmes contenus sont dupliqués sur des réseaux de domaines interconnectés.

Ces sites sont faciles à repérer une fois qu'on sait quoi chercher. Ils ne mentionnent généralement ni statut juridique ni coordonnées de contact pour les journalistes. Leur présence sur les réseaux sociaux est quasi inexistante, un anachronisme pour tout média digne de ce nom. Souvent, on n'y trouve qu'une adresse électronique générique, utilisée pour négocier la publication de documents compromettants ou le retrait payant de contenus préjudiciables.

Imiter les vrais médias d'information

Les faux médias les plus sophistiqués se font passer pour des organes de presse locaux dans certains pays. Le Trinity Bugle (www.trinitybugle.com) se présente comme une source d'information pour les expatriés irlandais à Chypre, le Warsaw Point (www.warsawpoint.com) se concentre sur la culture polonaise, et MICE Times (www.micetimes.asia) promet des « informations et des points de vue frais et indépendants » de Singapour et de Bangkok. Des sources similaires peuvent être trouvées ailleurs également, notamment Leeds TV (www.lstv.co.uk) et le Chicago Morning Star (www.chicagomorningstar.com).

Malgré leurs spécialisations affichées, ces portails publient régulièrement des articles à charge contre des personnalités du monde des affaires issues d'anciens pays soviétiques. Pour paraître crédibles, ils republient de larges extraits de dépêches d'agences, parfois légèrement remaniés. Ils mentionnent de faux partenaires médias, inventent des journalistes et les présentent avec de fausses biographies et des photos libres de droits trouvées sur internet.

Certains de ces sites sont liés au Kazakhstan (www.kiar.center, www.zagranburo.org), Ukraine (Premier Comité Vérité et Transparence – www.fttc.com.au, www.sokalinfo.com) ou la Russie (wwww.ossetia.tv, www.compro-site.comD'autres publient en anglais et se présentent comme des plateformes d'investigation, telles que www.oligarchsinsider.com or www.opensourceinvestigations.com.

L'IA comme amplificateur de risque

L'IA générative rend cet écosystème encore plus dangereux. De plus en plus, la désinformation est créée ou amplifiée par des outils automatisés. Alors que les services de conformité s'appuient davantage sur l'IA pour accélérer les évaluations des risques, un cercle vicieux se met en place : la désinformation générée par l'IA alimente les outils de conformité pilotés par l'IA, qui reproduisent et renforcent ensuite ces erreurs à la vitesse de la machine.

La conformité est aujourd'hui confrontée à une crise de confiance. Dans un monde où l'intelligence artificielle amplifie les erreurs et où les médias diffusant de fausses informations alimentent constamment les systèmes, la vigilance n'est plus une option, mais une condition de survie. Il n'y a qu'une seule voie possible : les entrepreneurs et les entreprises doivent surveiller en permanence leur empreinte numérique, et les responsables de la conformité bancaire doivent se garder de toute confiance aveugle dans les systèmes automatisés.

Partagez cet article: