Le Sénat veut créer un contrôleur européen de la fiabilité des algorithmes de reconnaissance faciale

Il faut établir un cadre autour du recours à la reconnaissance faciale dans l’espace public, plaident des sénateurs à l’origine d’un rapport d’information sur cette technologie. Ils proposent notamment de mettre en place une autorité européenne chargée de vérifier la fiabilité des algorithmes.

Les sénateurs Marc-Philippe Daubresse (Union pour un mouvement populaire), Arnaud de Belenet (Union centriste) et Jérôme Durain (Groupe socialiste, écologiste et républicain) ont présenté le 11 mai les résultats d’un rapport sur le recours à la reconnaissance biométrique dans l’espace public.

LE SPECTRE DE LA SURVEILLANCE DE MASSE

« Il est indispensable de construire une réponse collective à l’utilisation des technologies de reconnaissance biométrique afin de ne pas être, dans les années à venir, dépassés par les développements industriels », notent-ils au préalable. Pour répondre à cette problématique, ils ont fait 30 propositions pour « écarter le risque d’une société de surveillance ».

Les usages de la reconnaissance faciale sont potentiellement illimités. Mais, actuellement, le droit français n’en autorise que quelque-uns dans des contextes bien précis : le dispositif de rapprochement par photographie opéré dans le Traitement des antécédents judiciaires (TAJ) et du système de passage aux frontières « Parafe ». Plusieurs expérimentations – par la Ville de Nice ou Aéroports de Paris – ont également eu lieu.

Les auteurs du rapport s’étonnent encore qu’aujourd’hui il n’existe aucune réglementation générale pour encadrer la reconnaissance faciale. Certaines dispositions sont prévues dans le Règlement général sur la protection des données (RGPD) lorsqu’il aborde la protection des données biométriques. Sinon, il s’agit de textes spécifiques qui autorisent dans un cas bien précis le recours à la reconnaissance, comme c’est le cas pour le TAJ.

QUATRE INTERDICTIONS DANS LE RECOURS DE LA RECONNAISSANCE FACIALE

Face à ce constat, ils proposent tout d’abord d’élaborer un cadre incluant « des lignes rouges » permettant d’écarter le risque de surveillance de masse. Quatre interdictions doivent ainsi être instaurées : l’interdiction de la notation sociale, de la catégorisation d’individus en fonction de l’origine ethnique, du sexe ou de l’orientation sexuelle (sauf dans le cadre de la recherche scientifique), de l’analyse des émotions (sauf à des fins de santé et de recherche) et de la surveillance biométrique à distance en temps réel dans l’espace public (sauf pour les forces de sécurité dans des cas très limités).

Pour déterminer les cas d’usages où cette technologie pourrait être pertinente, le rapport préconise l’adoption d’une loi d’expérimentation d’une durée de trois ans. Le gouvernement et le Parlement seraient ainsi obligés de réévaluer le besoin et recadrer le dispositif en fonction des résultats obtenus. De leurs côtés, les Français devront pouvoir bénéficier d’une « information claire sur les techniques de reconnaissance biométrique, les bénéfices qui en sont attendus et les risques encourus ».

Par ailleurs, le recours à la reconnaissance devrait être autorisé a priori, par un magistrat ou un préfet lorsqu’il s’agit de forces de sécurité intérieure, et par la Commission nationale de l’informatique et des libertés (Cnil) lorsqu’il s’agit d’entité privée.

PRÉFÉRER DES ALGORITHMES DÉVELOPPÉS EN EUROPE

Pour les rapporteurs, la souveraineté technologique doit être au cœur de la réflexion autour de la reconnaissance faciale. En effet, « l’usage d’algorithmes développés en Europe, à partir de données traçables et hébergées sur notre sol est par exemple largement préférable au recours à des algorithmes étrangers dont l’on ne sait parfois rien des conditions de création et d’entraînement ».

Pour renforcer la souveraineté, les sénateurs préconisent de confier à une autorité européenne « la mission d’évaluer la fiabilité des algorithmes de reconnaissance biométrique et certifier leur absence de biais ». L’Union européenne semble favorable à ce système puisqu’elle en propose un similaire dans sa future réglementation sur l’intelligence artificielle, dont une partie porte sur la reconnaissance faciale. Seul problème : les entreprises devront accepter d’ouvrir le capot de leur technologie afin de certifier que celle-ci est fiable. Ce qui pose des problèmes relatifs à la propriété intellectuelle, particulièrement importante dans ce secteur.