Intelligence artificielle: menaces et opportunités

La croissance et la richesse de l'Europe sont étroitement liées à la manière dont elle utilisera les données et les technologies connectées. L'IA peut faire une grande différence dans nos vies et société - pour le meilleur ou pour le pire - et le Parlement européen a établi un comité pour examiner l’impact de la technologie. Vous trouverez ci-dessous quelques opportunités et menaces clés liées aux futures applications de l'IA.

En savoir plus sur ce qu'est l'intelligence artificielle et comment elle est utilisée.

Avantages de l'IA

Les pays de l'UE sont déjà forts dans l'industrie numérique et les applications interentreprises. Avec une infrastructure numérique de haute qualité et un cadre réglementaire qui protège la vie privée et la liberté d'expression, l'UE pourrait devenir un leader mondial de l'économie des données et de ses applications.

Avantages de l'IA pour les personnes

L'IA pourrait aider les gens avec de meilleurs soins de santé, des voitures plus sûres et d'autres systèmes de transport, des produits et services sur mesure, moins chers et plus durables. Il peut également faciliter l'accès à l'information, à l'éducation et à la formation. Le besoin d'apprentissage à distance est devenu plus important en raison du Pandémie de COVID-19. L'IA peut également rendre le lieu de travail plus sûr car les robots peuvent être utilisés pour des parties dangereuses des emplois et ouvrir de nouveaux postes à mesure que les industries axées sur l'IA se développent et changent.

Publicité

Opportunités de l'intelligence artificielle pour les entreprises

Pour les entreprises, l'IA peut permettre le développement d'une nouvelle génération de produits et services, y compris dans des secteurs où les entreprises européennes ont déjà des positions fortes: économie verte et circulaire, machinerie, agriculture, santé, mode, tourisme. Il peut stimuler les ventes, améliorer la maintenance des machines, augmenter la production et la qualité de la production, améliorer le service client et économiser de l'énergie.

Opportunités d'IA dans les services publics

L'IA utilisée dans les services publics peut réduire les coûts et offrir de nouvelles possibilités dans les transports publics, l'éducation, l'énergie et la gestion des déchets et pourrait également améliorer la durabilité des produits. De cette manière, l'IA pourrait contribuer à atteindre les objectifs de la Accord vert de l'UE.

Renforcer la démocratie

La démocratie pourrait être renforcée en utilisant un examen basé sur des données, empêchant désinformation et cyberattaques et garantir l'accès à des informations de qualité. L'IA pourrait également soutenir la diversité et l'ouverture, par exemple en atténuant la possibilité de préjugés dans les décisions d'embauche et en utilisant plutôt des données analytiques.

IA, sécurité et sûreté

L'IA devrait être davantage utilisée dans la prévention du crime et le système de justice pénale, car des ensembles de données massifs pourraient être traités plus rapidement, les risques de fuite des prisonniers évalués avec plus de précision, la criminalité ou même les attaques terroristes prévues et prévenues. Il est déjà utilisé par les plateformes en ligne pour détecter et réagir aux comportements en ligne illégaux et inappropriés.

En matière militaire, l'IA peut être utilisée pour des stratégies de défense et d'attaque dans le piratage et le phishing ou pour cibler des systèmes clés dans la cyberguerre, tandis que le principal avantage des systèmes d'armes autonomes est la possibilité de s'engager dans un conflit armé avec un risque réduit de dommages physiques.

Menaces et défis de l'IA

La dépendance croissante aux systèmes d'IA présente également des risques potentiels.

Sous-utilisation et surutilisation de l'IA

La sous-utilisation de l'IA est considérée comme une menace majeure: les opportunités manquées pour l'UE pourraient signifier une mauvaise mise en œuvre des grands programmes, tels que le Green Deal de l'UE, la perte de l'avantage concurrentiel vis-à-vis d'autres régions du monde, la stagnation économique et des possibilités plus faibles pour les citoyens. La sous-utilisation pourrait découler de la méfiance du public et des entreprises à l'égard de l'IA, de la médiocrité des infrastructures, du manque d'initiative, de faibles investissements ou, puisque l'apprentissage automatique de l'IA dépend des données, de marchés numériques fragmentés.

La surutilisation peut également être problématique: investir dans des applications d'IA qui se révèlent inutiles ou appliquer l'IA à des tâches pour lesquelles elle n'est pas adaptée, par exemple l'utiliser pour expliquer des problèmes sociétaux complexes.

Responsabilité: qui est responsable des dommages causés par l'IA?

Un défi important consiste à déterminer qui est responsable des dommages causés par un appareil ou un service actionné par l'IA: dans un accident impliquant une voiture autonome. Les dommages doivent-ils être couverts par le propriétaire, le constructeur automobile ou le programmeur?

Si le producteur n'était absolument pas responsable, il pourrait ne pas y avoir d'incitation à fournir un bon produit ou service et cela pourrait nuire à la confiance des gens dans la technologie; mais les réglementations pourraient aussi être trop strictes et étouffer l'innovation.

Menaces de l'IA sur les droits fondamentaux et la démocratie

Les résultats que l'IA produit dépendent de la manière dont elle est conçue et des données qu'elle utilise. La conception et les données peuvent être biaisées intentionnellement ou non. Par exemple, certains aspects importants d'un problème peuvent ne pas être programmés dans l'algorithme ou peuvent être programmés pour refléter et reproduire les biais structurels. De plus, l'utilisation de nombres pour représenter une réalité sociale complexe pourrait donner à l'IA une apparence factuelle et précise alors qu'elle ne l'est pas. Ceci est parfois appelé lavage mathématique.

Si elle n'est pas effectuée correctement, l'intelligence artificielle pourrait conduire à des décisions influencées par des données sur l'appartenance ethnique, le sexe, l'âge lors de l'embauche ou du licenciement, l'offre de prêts ou même dans le cadre de procédures pénales.

L'IA pourrait gravement affecter le droit à la vie privée et à la protection des données. Il peut être par exemple utilisé dans des équipements de reconnaissance faciale ou pour le suivi et le profilage en ligne d'individus. De plus, l'IA permet de fusionner des informations qu'une personne a fournies dans de nouvelles données, ce qui peut conduire à des résultats auxquels la personne ne s'attend pas.

Elle peut également présenter une menace pour la démocratie; L'intelligence artificielle a déjà été accusée de créer des chambres d'écho en ligne basées sur le comportement en ligne antérieur d'une personne, affichant uniquement le contenu qu'une personne aimerait, au lieu de créer un environnement de débat public pluraliste, également accessible et inclusif. Il peut même être utilisé pour créer de fausses vidéos, audio et images extrêmement réalistes, appelées deepfakes, qui peuvent présenter des risques financiers, nuire à la réputation et contester la prise de décision. Tout cela pourrait conduire à la séparation et à la polarisation de la sphère publique et manipuler les élections.

L'IA pourrait également jouer un rôle en portant atteinte à la liberté de réunion et de protestation car elle pourrait suivre et profiler des individus liés à certaines croyances ou actions.

Impact de l'IA sur les emplois

L'utilisation de l'IA sur le lieu de travail devrait entraîner la suppression d'un grand nombre d'emplois. Bien que l'intelligence artificielle soit également censée créer et créer de meilleurs emplois, l'éducation et la formation joueront un rôle crucial dans la prévention du chômage de longue durée et dans la garantie d'une main-d'œuvre qualifiée.

La collecte d'informations pourrait également entraîner une distorsion de la concurrence, car les entreprises disposant de plus d'informations pourraient obtenir un avantage et éliminer efficacement leurs concurrents.

Risques de sûreté et de sécurité

Les applications d'IA qui sont en contact physique avec des humains ou intégrées dans le corps humain peuvent présenter des risques pour la sécurité car elles peuvent être mal conçues, mal utilisées ou piratées. Une utilisation mal réglementée de l'IA dans les armes pourrait entraîner une perte de contrôle humain sur les armes dangereuses.

Défis de transparence

Les déséquilibres d'accès à l'information pourraient être exploités. Par exemple, sur la base du comportement en ligne d'une personne ou d'autres données et à son insu, un fournisseur en ligne peut utiliser l'IA pour prédire que quelqu'un est prêt à payer, ou une campagne politique peut adapter son message. Un autre problème de transparence est que parfois, les gens ne savent pas s'ils interagissent avec l'IA ou une personne.