Le Parlement européen doit interdire les systèmes de profilage racistes et discriminatoires ciblant les migrants et autres groupes marginalisés.

Cette semaine, l’Union européenne votera sur la loi sur l’intelligence artificielle (AI Act). Amnesty demande au Parlement européen d’interdire l’utilisation des technologies de surveillance de masse, telles que les identifiants biométriques en temps réel à distance, dans la loi sur l’IA ; un projet de loi révolutionnaire.

Les recherches d’Amnesty International montrent que la technologie de reconnaissance faciale de grande envergure encourage l’application de la loi raciste et discriminatoire. Par exemple, les personnes de couleur sont arrêtées et font l’objet d’enquêtes plus souvent. La technologie est également utilisée pour limiter, voire diminuer, la liberté de mouvement des migrants et des demandeurs d’asile.

« D’importantes protections des droits humains ont été obtenues le 11 mai 2023 », a déclaré Mher Hakobya d’Amnesty International. « Il y a un risque que le Parlement européen annule ces bonnes intentions et ouvre la porte à l’utilisation de technologies qui violent directement le droit international des droits de l’homme. »

Forteresse Europe

Dans leur tentative de renforcer les murs de la « forteresse Europe », les États membres de l’UE ont de plus en plus recours à des technologies obscures et hostiles. Cela a facilité la maltraitance des migrants, des réfugiés et des demandeurs d’asile aux frontières.

« Avec cet environnement toujours inhospitalier pour les personnes fuyant les guerres et les conflits à la recherche d’une protection ou d’une vie meilleure, il est vital que le Parlement européen n’ignore pas les dégâts des systèmes d’IA racistes », a déclaré Mher Hakobyan. Les législateurs devraient interdire le profilage raciste et les systèmes d’évaluation des risques qui qualifient les migrants et les demandeurs d’asile de « menaces ». Tout comme les technologies pour prédire les mouvements frontaliers et priver les gens du droit d’asile ».

Technologie d’exportation

Si la loi sur l’IA peut aider à prévenir et à limiter les dommages causés par les nouvelles technologies en Europe, il est crucial que l’UE ne contribue pas aux violations des droits de l’homme par l’exportation de technologies de grande envergure en dehors de son territoire.

La loi sur l’IA devrait interdire l’exportation de systèmes qui ne sont pas autorisés à être utilisés dans l’UE, tels que la reconnaissance faciale et d’autres technologies de surveillance.

Une enquête d’Amnesty International a révélé que des caméras de la société néerlandaise TKH Security sont utilisées dans des espaces publics et des infrastructures policières à Jérusalem-Est occupée. Ces caméras renforcent le contrôle du gouvernement israélien sur les Palestiniens et le système d’apartheid israélien contre les Palestiniens.

Des études similaires montrent que des entreprises en France, en Suède et aux Pays-Bas ont vendu des systèmes de surveillance numérique, tels que la technologie de reconnaissance faciale (FRT) et des caméras réseau, à des acteurs clés de l’appareil de surveillance de masse en Chine. Dans certains cas, les exportations étaient directement destinées à des projets de surveillance de masse, avec le risque d’être utilisées contre les Ouïghours et d’autres groupes ethniques, entre autres, à travers le pays.

Centrale des droits de l’homme

« Le Parlement européen a le devoir de défendre les droits de l’homme. Tout ce qui n’est pas une interdiction complète des technologies utilisées pour la surveillance de masse, la police raciste et le profilage est une violation de ce devoir », a déclaré M. Hakobyan.

Les législateurs de l’UE doivent également veiller à ce que les technologies interdites au sein de l’UE ne soient pas exportées pour violer les droits de l’homme ailleurs. Cette législation doit protéger et promouvoir les droits de l’homme de tous, et pas seulement des citoyens européens.

Arrière-plan

Le 21 avril 2021, la Commission européenne a proposé une législation réglementant l’utilisation de l’intelligence artificielle. Le Conseil de l’UE, composé des gouvernements nationaux de l’UE, a adopté sa position en décembre 2022. Le Parlement européen vise un vote final pour prendre une position officielle le 14 juin. Un texte commun pour le règlement devrait alors être convenu.

Amnesty International, dans le cadre d’une coalition d’organisations de la société civile dirigée par le Réseau européen des droits numériques (EDRi), a appelé à une réglementation européenne de l’intelligence artificielle qui protège et promeut les droits humains.