Les deux instances européennes en charge du respect du RGPD réclament, dans un communiqué conjoint, l’interdiction de l’utilisation de l’intelligence artificielle (IA) pour la reconnaissance automatisée des caractéristiques humaines dans les espaces accessibles au public, ainsi que « certaines autres utilisations de l’IA pouvant conduire à une discrimination injuste ».
Sont ainsi visées les techniques d’identification biométrique à distance « telles que la reconnaissance de visages, démarche, empreintes digitales, ADN, voix, frappes au clavier et autres signaux biométriques ou comportementaux, dans n’importe quel contexte ».
Elles recommandent également d’interdire les systèmes d’IA « utilisant la biométrie pour catégoriser les individus en groupes basés sur l’origine ethnique, le sexe, l’orientation politique ou sexuelle », ou d’autres motifs pour lesquels la discrimination est interdite en vertu de l’article 21 de la Charte des droits fondamentaux. (...)
elles se disent par ailleurs « préoccupées par l’exclusion de la coopération internationale en matière répressive du champ d’application de la proposition ».
La Commission européenne a en effet proposé une interdiction de principe de ces technologies, mais « assortie d’exceptions pour faciliter le travail de la police, par exemple dans la recherche d’un enfant disparu, pour prévenir une menace terroriste imminente ou encore pour retrouver l’auteur d’un crime grave », rappelle l’AFP.
L’agence de presse souligne que l’UE prévoit également de soutenir ce secteur à hauteur de un milliard d’euros par an, « générant en tout 20 milliards d’euros d’investissements sur la prochaine décennie ». (...)
« l’utilisation de l’IA pour déduire les émotions d’une personne physique est hautement indésirable et devrait être interdite ». (...)
« le respect des obligations légales découlant de la législation de l’Union – y compris sur la protection des données personnelles – devrait être une condition préalable à l’entrée sur le marché européen en tant que produit marqué CE ». (...)
Les « incorruptibles » du RGPD
Le Comité Européen de la Protection des Données (EDPB en anglais) « a pour objectif de garantir l’application cohérente du Règlement Général sur la Protection des données ainsi que de la Directive Européenne en matière de Protection des Données dans le domaine Répressif dans l’Union européenne ». (...)
Le Contrôleur européen de la protection des données (EDPS en anglais) est, de son côté, chargé de « superviser les institutions de l’UE afin de les aider à être exemplaires [et] irréprochable lorsqu’elles traitent des informations personnelles » (...)
Une application immédiate du principe de précaution
Andrea Jelinek et Wojciech Wiewiórowski, présidents respectifs d’EDPB et de l’EDPS, concluent leur communiqué commun en expliquant que « le déploiement de l’identification biométrique à distance dans des espaces accessibles au public signifie la fin de l’anonymat dans ces lieux » (...)
La reconnaissance faciale est d’ores et déjà là
Dans une « tentative d’état des lieux de la reconnaissance faciale en France en 2021 », le collectif Technopolice, initié par La Quadrature du Net, déplore de son côté que « oui, la reconnaissance faciale est malheureusement déjà déployée en France et non, elle n’a pas besoin d’un "cadre éthique" mais d’une interdiction », eu égard aux arguments avancés par ses défenseurs et partisans (...)
« L’existence même d’un fichier comme le TAJ, intégrant la reconnaissance faciale, est contestable et contestée. Le TAJ, comme tous les fichiers de police et de gendarmerie, voit son utilisation encadrée juridiquement. Mais en pratique les forces de l’ordre en ont une consultation beaucoup plus libre que celle prévue par les textes. Leur usage peut être facilement détourné et employé de manière frauduleuse et abusive (plus d’infos sur la pratique du fichage dans cette brochure). »
De plus, et « dans une sorte de pratique plus collective, répandue et plus ou moins acceptée par la hiérarchie, la police utilise le fichier TAJ pour effectuer des contrôles d’identité » (...)
De la police chinoise aux aéroports européens
Technopolice rappelle par ailleurs que les frontières, et notamment les aéroports, constituent les lieux privilégiés de tests puis de déploiement de la reconnaissance faciale, tant pour des questions de « sécurité » qu’en termes de « fluidité » ou de « rapidité » des contrôles passagers (...)
on retrouve l’entreprise française Idémia, pionnière de l’identification biométrique et qui se présente aujourd’hui comme le « leader de l’identité augmentée ». Ce mastodonte bleu-blanc-rouge, racheté en 2017 par un fonds de pension américain, a aussi été accusé d’avoir vendu sa technologie à la police chinoise.
Pour en revenir à nos contrées, Idemia a plus récemment obtenu des financements de l’Agence nationale de recherche pour développer des algorithmes de gestion de foule pour les Jeux Olympiques de 2024, et gagné l’appel d’offres du ministère de l’Intérieur pour mettre en place le contrôle centralisé aux frontières (CCAF) d’ici 2022, en application de la directive européenne EES (Entry Exit System) (...)
Technopolice rappelle en outre que « plusieurs candidats aux élections régionales se sont déjà prononcés pour une extension de la reconnaissance faciale (quitte à mentir sciemment sur le sujet, comme l’a fait Valérie Pécresse le mois dernier) » (...)
Mais c’est la perspective de la coupe du monde de Rugby puis des Jeux Olympiques en 2024 qui alerte le plus Technopolice : « l’occasion paraît trop belle pour les industriels et certains politiques, qui voient en cet événement l’opportunité d’afficher leurs technologies d’identification biométrique, de big data, d’algorithmes de reconnaissance de comportement, d’analyse des réseaux sociaux… » :
« Une fois que ces dispositifs auront été développés et testés, et que des agents auront été formés à leur utilisation, ils ne resteront pas circonscrits aux JO, mais perdureront dans le futur. »
En guise de conclusion, Technopolice rappelle que des interdictions ont déjà été prises aux États-Unis, et qu’un mouvement similaire s’est lancé en Europe. (...)