Reconnaissance faciale : "On crée l'accoutumance"

La reconnaissance faciale est-elle une innovation extraordinaire, qui va simplifier la vie des consommateurs et des usagers de l'administration, ou au contraire est-elle une redoutable technique liberticide de surveillance de masse ? A moins qu'elle ne soit la dernière ruse des marchands pour nous extorquer les données, ce "pétrole du 21ème siècle". Sur ce nouvel objet de craintes et de fantasmes, trois invités : Olivier Tesquet, journaliste à Télérama ; Asma Mhalla, chercheuse sur les enjeux démocratiques de la reconnaissance faciale et des "Smart City" ; et Didier Baichère, député (LREM), vice-président de l'office parlementaire d'évaluation des choix scientifiques et technologiques.

"La question de la surveillance généralisée se pose aussi en Europe"

Difficile, impossible même, de ne pas parler de la Chine lorsqu'on parle reconnaissance faciale. Avenir dystopique, terrifiant "Big Brother" orwellien mettant en place un "crédit social" qui note chaque citoyen en fonction de ses comportements (avec l'aide de la reconnaissance faciale) : "Le système du crédit social n'est pas aussi unifié que ce qui est généralement présenté", nuance Olivier Tesquet. Des expérimentations disparates, des résultats pas toujours convaincants... "En Europe, on n'aura peut-être pas ce format-là, mais la question de la surveillance généralisée pose quand même question", insiste Asma Mhalla. Pour Didier Baichère, au contraire, la Chine est "l'exemple de ce vers quoi on ne tend absolument pas". Le député rappelle l'existence de la CNIL et du RGPD, qui protègent selon lui la société.

Alicem, confort" d'utilisation et accoutumance

En France la reconnaissance faciale est revenue dans les médias par l'intermédiaire d'Alicem. En phase de test, cette application doit permettre d'accéder à des services publics depuis un seul dispositif. Pour s'inscrire, elle demande à l'utilisateur de passer un test de reconnaissance faciale. "Ce qui se joue, et c'est problématique, c'est l'accoutumance à ces usages", dénonce la chercheuse : payer avec son téléphone, déverrouiller son smartphone... "On introduit des usages commerciaux, pour des raisons de confort, mais qu'est-ce qu'on en fera demain ?" Pour Tesquet, la reconnaissance faciale est particulièrement inquiétante lorsqu'il s'agit "d'identification" (repérer quelqu'un dans une foule, par exemple), "eldorado" sécuritaire. 

Autre question que pose Alicem : celle de la fracture numérique. En numérisant à marche forcée les services publics, ne laisse-t-on pas des Français sur le carreau ? Inquiétude exprimée par le Défenseur des Droits, Jacques Toubon.

L'interpénétration public-Privé

En France, le maire LR de Nice Christian Estrosi est l'un des plus fervents défenseurs de la reconnaissance faciale dans un usage sécuritaire. Il a notamment porté un projet de reconnaissance faciale dans deux lycées à Nice et Marseille. Un projet dénoncé par la Quadrature du Net, association de défense des libertés numériques, et critiqué par la CNIL. "On dépasse complètement le cadre légal", dénonce Didier Baichère, et l'expérimentation n'a rien de scientifique. 

Le problème c'est qu'on "transfère petit à petit des questions régaliennes de sécurité sous format de partenariats privés-publics qui génèrent des dizaines de millions d'euros à chaque projet", pour Mhalla. Tesquet rappelle que dans le cas de cette expérimentation, l'initiative vient de l'entreprise américaine Cisco, qui teste son logiciel dans un "quartier populaire" de Marseille, avec une "population extrêmement racisée". Des populations, rappelle Mhalla, qui souffrent souvent des biais raciaux de la technologie.

Pour Baichère, les usages commerciaux de la reconnaissance faciale risquent d'être rejetés par les citoyens. "Les usages commerciaux préparent le terrain et sont utilisés comme des prétextes par les tenants de cet eldorado sécuritaire", prévient Tesquet. Asma Mhalla s'inquiète, elle, de l'évolution possible de la loi, qui pourrait permettre davantage de croisement de données. "La loi n'est pas un garde-fou absolu". 

Toujours à Nice, le maire a mené en février 2019 une expérimentation de quelques jours pendant le carnaval. Des "scénarios" d'utilisation de la reconnaissance faciale ont été testés. Les résultats n'ont pas convaincu la CNIL, qui ne les considère pas comme assez documentés.

Un "cheval de troie" de la "société de vigilance" ?

Aux Etats-Unis, Amazon négocie des contrats avec certaines polices municipales, mais aussi avec le département de l'immigration, pour fournir ses logiciels de reconnaissance faciale. "Les méta-plateformes récupèrent des fonctions qui étaient initialement dévolues à l'Etat", déplore Asma Mhalla, "captent de la donnée personnelle", et se rendent nécessaires à l'Etat. "On crée un climat de peur qui fait que les usages commerciaux vont passer vers des usages sécuritaires", dénonce la chercheuse. Baichère plaide pour une formation  à "l'économie de la donnée", dès l'école.

"L'expérimentation est toujours lancée avant qu'on ne débatte", regrette Mhalla. "Il ne faut pas sous-estimer la pression économique sur ces questions", insiste Tesquet. Après avoir vendu des parcs géants de caméras de vidéo-surveillance, les entreprises vendent désormais des logiciels supplémentaires pour faire tourner ces caméras en vidéosurveillance "intelligente" - et aussi avec de la reconnaissance faciale. Le tout au niveau municipal, plus que parlementaire. 

La reconnaissance faciale s'inscrit dans des projets de plus en plus prégnants de "smart city", villes intelligentes ultra-connectées. Et participe d'un projet de "rentabilisation" des infrastructures existantes, notamment les caméras, selon Asma Mhalla. Pour le journaliste de Télérama, la reconnaissance faciale pourrait bien être le "cheval de Troie" d'une forme de "société de vigilance", telle que prônée par Emmanuel Macron. En conclusion, Tesquet renvoie à l'invention des fiches anthropométriques d'Alfonse Bertillon, à la fin du 19ème siècle, qui devaient servir à traquer les criminels. "Quand je vois la reconnaissance faciale, c'est pour moi la transformation en signal informatique des fiches de Bertillon".