Instagram-Scraping Clearview AI veut vendre son logiciel de reconnaissance faciale à des régimes autoritaires

Alors que les pressions juridiques et l’examen du législateur américain s’intensifient, Clearview AI, la société de reconnaissance faciale qui prétend avoir une base de données de plus de 3 milliards de photos extraites de sites Web et de médias sociaux, cherche à se développer dans le monde entier.

Un document obtenu via une demande de documents publics révèle que Clearview a vanté une «expansion internationale rapide» aux clients potentiels en utilisant une carte qui montre comment elle s’est développée ou prévoit de s’étendre à au moins 22 autres pays, dont certains ont commis des violations des droits de l’homme.

Le document, qui fait partie d’une présentation donnée au département de police de North Miami en novembre 2019, comprend les Émirats arabes unis, un pays historiquement hostile aux dissidents politiques, ainsi que le Qatar et Singapour, dont les codes pénaux criminalisent l’homosexualité.

Le PDG de Clearview, Hoan Ton-That, a refusé d’expliquer si Clearview travaille actuellement dans ces pays ou espère y travailler. Il a confirmé que la société, qui avait précédemment affirmé qu’elle travaillait avec 600 services répressifs, avait des relations avec deux pays sur la carte.

« Clearview se concentre sur les affaires aux États-Unis et au Canada », a déclaré Ton-That. «De nombreux pays du monde entier ont manifesté leur intérêt pour Clearview.»

Albert Fox Cahn, membre de l’Université de New York et directeur exécutif du Surveillance Technology Oversight Project, a déclaré à BuzzFeed News qu’il était troublé par la possibilité que Clearview puisse emmener sa technologie à l’étranger.

«Il est profondément alarmant qu’ils vendent cette technologie dans des pays aux antécédents aussi terribles en matière de droits de l’homme, permettant un comportement potentiellement autoritaire de la part d’autres pays», a-t-il déclaré.

Vous avez un conseil? Envoyez un courriel à l’un des journalistes de cette histoire à [email protected] ou [email protected], ou contactez-nous ici.

Clearview a fait les gros titres ces dernières semaines pour une technologie de reconnaissance faciale qui, selon elle, comprend une base de données croissante de quelque 3 milliards de photos grattées sur des sites de médias sociaux comme Instagram, Twitter, YouTube et Facebook, et pour avoir déformé son travail avec les forces de l’ordre en prétendant à tort un rôle dans l’arrestation d’un suspect de terrorisme. La société, qui a reçu des ordres de cesser et de s’abstenir de Twitter, Youtube, et Facebook fait valoir qu’il a le droit du premier amendement de collecter des données à partir des médias sociaux.

« Il existe également un droit du Premier Amendement à l’information du public », Ton-That a déclaré à CBS News Mercredi. « Donc, la façon dont nous avons construit notre système est de ne prendre que les informations accessibles au public et de les indexer de cette façon. »

Cahn a rejeté l’argument de Ton-That, le décrivant comme «plus sur les relations publiques que sur la loi».

« Aucun tribunal n’a jamais trouvé que le premier amendement donne un droit constitutionnel d’utiliser les informations accessibles au public pour la reconnaissance faciale », a déclaré Cahn. « Tout simplement parce que Clearview peut avoir le droit de supprimer certaines de ces données, cela ne signifie pas qu’ils bénéficient d’une immunité contre les poursuites de ceux d’entre nous dont les informations sont vendues sans notre consentement. »

Scott Drury, un avocat représentant un demandeur poursuivant Clearview en Illinois pour avoir violé une loi de l’État sur la collecte de données biométriques, a accepté. «La conduite de Clearview viole les droits constitutionnels des citoyens de nombreuses manières, notamment en interférant avec le droit des citoyens à accéder aux tribunaux», a-t-il déclaré à BuzzFeed News. «Le problème ne se limite pas à gratter les enregistrements, mais plutôt à savoir si une entreprise privée peut gratter des enregistrements dans le but d’effectuer des analyses biométriques et de vendre ces données au gouvernement.»

L’inclusion de Clearview de neuf pays de l’Union européenne – dont l’Italie, la Grèce et les Pays-Bas – sur sa carte d’extension est potentiellement plus problématique. Ces pays ont des protections strictes de la vie privée en vertu du Règlement général sur la protection des données (RGPD), une loi de 2016 qui oblige les entreprises à protéger les données personnelles et la vie privée des citoyens de l’UE. Joseph Jerome, ancien conseiller politique du Center for Democracy and Technology et actuel directeur de la politique multi-États à Common Sense Media, a déclaré qu’il n’était pas clair si la technologie de Clearview AI violerait le RGPD.

Jerome a déclaré que le RGPD protège toute information qui pourrait être utilisée pour identifier une personne – y compris les données biométriques – mais que l’UE a fait des exceptions pour l’application des lois et la sécurité nationale. Clearview a également souligné d’autres pays européens non membres de l’UE sur sa carte avec lesquels elle espérait faire des affaires, notamment le Royaume-Uni et l’Ukraine.

Au-delà de la carte – qui indique également des plans d’expansion au Brésil, en Colombie et au Nigéria – Clearview s’est vanté de ses exploits à l’étranger. Son site Web contient un large témoignage d’un «agent de police détective de l’unité des crimes sexuels» dans «Application de la loi canadienne» qui prétend que «Clearview est de loin la meilleure chose qui soit arrivée à l’identification des victimes au cours des 10 dernières années». Lorsqu’on lui a demandé, Ton-That a refusé d’identifier le détective ou l’agence qu’ils servent.

Clearview et Ton-That ont parfois exagéré les relations commerciales de l’entreprise, et la présentation envoyée à la police de North Miami contient quelques fausses déclarations, y compris deux exemples dans lesquels elle a suggéré qu’elle était utilisée dans l’enquête sur des crimes à New York. Un porte-parole du NYPD précédemment nié que le ministère a une quelconque relation avec l’entreprise et a déclaré que le logiciel n’a été utilisé dans aucune des enquêtes.

Clearview AI a également encouragé les forces de l’ordre à tester son outil de reconnaissance faciale dans des situations inhabituelles, telles que l’identification de cadavres. La présentation montre des images graphiques d’un homme mort et des photos d’une personne qui, selon Clearview, correspondaient à la victime décédée.

Clearview AI fait une promotion agressive de son service auprès des forces de l’ordre américaines. Il a suggéré que les policiers «se déchaînent» avec l’outil, les encourageant à le tester sur des amis, la famille et des célébrités. Les e-mails obtenus via une demande de dossier public montrent que l’entreprise met au défi la police d’Appleton, dans le Wisconsin, d’effectuer 100 recherches par semaine.

« Les enquêteurs qui effectuent plus de 100 recherches Clearview ont les meilleures chances de résoudre avec succès les crimes avec Clearview dans notre expérience », a déclaré l’e-mail. «C’est la meilleure façon de tester la technologie en profondeur. Vous ne savez jamais quand une recherche aboutira. »

Il n’y a actuellement aucune loi fédérale qui restreint la reconnaissance faciale ou la suppression de données biométriques sur Internet. Jeudi, le comité de la Chambre sur la sécurité intérieure tenir une audience d’examiner la technologie de reconnaissance faciale du ministère de la Sécurité intérieure. Ton-That a précédemment déclaré que Clearview travaillait avec DHS.

Mercredi, Facebook a déclaré à BuzzFeed News qu’il avait envoyé plusieurs lettres à Clearview AI pour clarifier les politiques du réseau social et demander des informations sur ce que faisait la startup. Dans ces lettres, Facebook, qui possède Instagram, a demandé à Clearview de cesser et de s’abstenir d’utiliser toutes les données, images ou médias de ses sites de réseaux sociaux. Le membre du conseil d’administration de Facebook, Peter Thiel, est un investisseur de Clearview.

« Le fait de supprimer les informations des gens viole nos politiques, c’est pourquoi nous avons exigé que Clearview arrête d’accéder ou d’utiliser les informations de Facebook ou Instagram », a déclaré un porte-parole de Facebook. Un porte-parole de Thiel n’a pas immédiatement répondu à une demande de commentaire.