Alors que la reconnaissance faciale, couplée à la vidéosurveillance de masse, se généralise en Chine et se déploie en Russie, les réticences sur cette technologie d'intelligence artificielle se font de plus en plus entendre. Après la Cnil française, qui a mis en garde dans une note contre les "risques d'atteintes aux libertés individuelles" et les difficultés liées à la protection des données personnelles, le gouvernement américain lui-même exprime ses réticences, en se penchant sur la question des biais qui induisent des erreurs.
Des bases de données pas assez diverses menant à des erreurs potentiellement dangereuses
D'après une étude du National Institute of Standards and Technology (NIST), un centre affilié au gouvernement, les systèmes de reconnaissance faciale utilisés aux Etats-Unis sont loin d'être toujours fiables. Et surtout lorsqu'il s'agit de reconnaître des personnes non blanches. Ainsi, sur la base de l'analyse de plusieurs dizaines d'algorithmes, les personnes asiatiques ou noires ont 100 fois plus de risque d'être identifiées à tort que les personnes blanches. Les chercheurs ont également repéré que deux algorithmes attribuent le mauvais sexe à des femmes noires dans 35% des cas...
L'étude souligne qu'une partie des biais pourraient être corrigés si les bases de données utilisées pour la reconnaissance facile étaient plus diverses. Ainsi, les algorithmes développés aux Etats-Unis présentent des taux d'erreur plus élevés pour les Asiatiques, les Afro-Américains et les Amérindiens, d'après l'étude, tandis que d'autres conçus dans des pays asiatiques parviennent à identifier aussi bien les visages asiatiques que blancs. "C'est encourageant car cela montre que l'utilisation d'une base de données plus diverse permet d'arriver à de meilleurs résultats", a déclaré Patrick Grother, le directeur de recherche.
Mais pour l'ONG American Civil Liberties Union (ACLU), cette étude prouve avant tout que la technologie n'est pas au point, ne devrait pas être installée et menace les libertés individuelles.
"Même les scientifiques du gouvernement confirment que cette technologie de surveillance est défectueuse et biaisée", a réagi Jay Stanley, un analyste de ACLU. "Une mauvaise identification peut faire rater un vol, entraîner des interrogations sans fin, un placement sur des listes de personnes à surveiller, des tensions avec des agents de police, des arrestations sans fondement ou pire".
Vers un nouveau cadre légal en 2020 en France ?
Aux Etats-Unis, la reconnaissance faciale est déjà largement utilisée par les autorités, les forces de l'ordre, les aéroports, les banques, les commerces et les écoles. Elle sert aussi à déverrouiller certains smartphones.
Le fait que le NIST, affilié au gouvernement américain, joigne sa voix au cortège des nombreuses études dénonçant les risques de la reconnaissance faciale, laisse présager une réponse politique et législative en 2020. La littérature commence à devenir abondante, notamment depuis l'étude publiée par le Masachussets Iinstitute of Technology (MIT) et l'Université de Stanford en 2018, qui a démontré les biais concernant les femmes et les personnes issues des minorités ethniques. Si bien que plusieurs villes américaines - dont San Francisco - ont interdit l'usage de la reconnaissance faciale par la police et les services municipaux au cours des derniers mois.
En France, les expérimentations autour de la reconnaissance faciale se multiplient. Des dispositifs ont été mis en place aux portiques et aux guichets des aéroports à Paris, dans des lycées à Marseille et à Nice... L'Etat a même lancé Alicem, la première solution d'identité numérique régalienne. Il s'agit d'une application pour smartphone développée par le ministère de l'Intérieur et l'Agence nationale des titres sécurisés (ANTS) qui permet à tout particulier de prouver son identité sur Internet.
Des associations comme La Quadrature du Net, qui défend les libertés des internautes, et surtout, des organismes comme le Conseil national du numérique, la Cnil (Commission nationale de l'informatique et des libertés) et même des industriels comme Thales ou Safran, montent au créneau pour réclamer un cadre légal adapté aux enjeux de la reconnaissance faciale. Le gendarme français de la protection des données appelle depuis septembre 2018 à la tenue "d'urgence" d'un débat démocratique pour instituer des "garde-fous" et trouver un "juste équilibre entre les impératifs de sécurisation, notamment des espaces publics, et la préservation des droits et libertés de chacun."
De son côté, le Forum économique mondial et le Conseil national du numérique ont lancé un projet de co-construction d'une régulation de la reconnaissance faciale. Des députés, à commencer par Paula Forteza (LREM), Chritine Hennion (LREM) se saisissent du sujet et veulent mieux encadrer les usages permis et les données utilisées par les logiciels. La députée Marine Brenier (LR) a même déposé en octobre le tout premier texte de loi relatif à la reconnaissance faciale dans les enquêtes terroristes et la prévention des attentats.
« Quand nous mettrons le pied sur l'accélérateur, nous serons difficiles à égaler » (Joelle Pineau, directrice de la recherche en IA chez Meta)
Sujets les + commentés