Cette société pourrait signifier la fin de la confidentialité telle que nous la connaissons

Cette société pourrait signifier la fin de la confidentialité telle que nous la connaissons

24/01/2020 Non Par Arnaud Lefebvre

Clearview, start-up créée en 2016 par Hoan Ton-That, entrepreneur australien du secteur technologique, a conçu une application qui aide les forces de l’ordre à faire correspondre les photos de personnes inconnues à leur base de données d’images en ligne. « Cette fonctionnalité pourrait aboutir à un avenir dystopique ou à quelque chose du même genre », écrit Kashmir Hill dans un article pour le New York Times.

Cleaview AI est une application de reconnaissance révolutionnaire. Son fonctionnement est simple : vous prenez une photo d’une personne, vous la chargez sur l’application et vous obtenez les photos publiques de cette personne avec des liens qui vous redirigent au site internet où ces clichés sont apparus. Le centre névralgique de ce système est une base de données de plus de trois milliards d’images que la start-up affirme avoir tirées de Facebook, YouTube, Instagram ainsi que d’autres sites.

« Cela va bien au-delà de tout ce qui a été construit jusqu’à présent par le gouvernement américain ou par les géants de la Silicon Valley », explique Hill.

Technologie taboue

Jusqu’à présent, la technologie pouvant identifier immédiatement toute personne en fonction du visage était taboue en raison du risque qu’elle représente pour la vie privée. Plusieurs entreprises technologiques capables de proposer un tel outil se sont abstenues de le faire. En 2011, Google avait expliqué que c’était la seule technologie que la société avait refuser de lancer car elle pouvait comporter des risques considérables. Certaines villes telles que San Francisco, ont même interdit la police d’utiliser la reconnaissance faciale.

Toutefois, les services de force de l’ordre américains ont déclaré que bien qu’ils ne connaissaient que le fonctionnement basique de Clearview, ils avaient eu recours à son application pour résoudre des affaires de vol à l’étalage, d’usurpation d’identité, de fraude par carte de crédit, de meurtre ou encore d’exploitation sexuelle de mineurs.

Selon Hoan Ton-That, plus de 600 organismes d’application de la loi ont commencé à utiliser Clearview au cours de l’année écoulée. Selon le New York Times qui a étudié le code informatique sous-jacent de l’application, Clearview peut identifier des activistes lors d’une manifestation ou encore une personnes aperçue dans le métro. L’application est capable non seulement de nous révéler où ces personnes vivent, mais également leur occupation et leurs relations.

« Les possibilités de convertir cet outil en une arme sont infinies », a expliqué Eric Goldman, codirecteur du High Tech Law Institute de l’Université de Santa Clara. « Imaginez un agent de police malhonnête qui souhaite harceler des partenaires amoureux potentiels ou encore un gouvernement étranger qui l’utilise pour dévoiler des secrets sur des personnes afin de les faire chanter ou pour les jeter en prison. »

Risques

Le secret entoure Cleaview. La société souhaite en effet éviter tout débat sur sa technologie. Sur LinkedIn, le journaliste du New York Times a constaté que l’entreprise ne possédait qu’un seul employé, un directeur des ventes nommé John Good. Plus tard, il s’est avéré que cet individu était en fait Ton-That utilisant un faux nom. Par la suite, les personnes liées à Clearview identifiées n’ont jamais répondu aux appels téléphoniques et aux courriels de Kashmir Hill.

« L’entreprise m’évitait mais me surveillait également. A ma demande, plusieurs policiers ont chargé ma photo sur l’application. Ils ont rapidement reçu des appels de représentants de la société leur demandant s’ils parlaient aux médias. C’est un signe que Clearview a la capacité et, dans ce cas, la volonté de tracer les personnes que la police recherche », explique Hill.

La technologie de reconnaissance faciale a toujours fait l’objet de controverses. En outre, certains produits de reconnaissance faciale utilisés par la police tels que Clearview n’ont pas encore été examinés par des experts indépendants.

« L’application Clearview comporte des risques supplémentaires, car les organismes chargés de l’application des lois téléchargent des photos sensibles sur les serveurs d’une entreprise dont la capacité de protéger les données n’a pas encore été soumise à des tests. » La société affirme cependant que son outil trouve des correspondances avec un taux de réussite de 75%.

Confidentialité

Outre Ton-That, Clearview a été fondée par Richard Schwartz, assistant de Rudolph Giuliani lorsqu’il était maire de New York. L’application compte parmi ses investisseurs Peter Thiel, fondateur de PayPal et capital-risqueur derrière Facebook et Palantir. Kirenaga Partners, une petite entreprise, participe également au soutien financier de Clearview. Son fondateur, David Scalzo, a déclaré que l’application était un outil précieux de résolution de la criminalité.

« Je suis parvenu à la conclusion qu’à mesure que les informations augmentent constamment, il n’y aura jamais de confidentialité », a déclaré Scalzo. « Les lois doivent déterminer ce qui est légal, mais vous ne pouvez pas bannir la technologie. Bien sûr, cela pourrait conduire à un avenir dystopique, mais vous ne pouvez pas l’interdire. »

Les services de police ont accès à des outils de reconnaissance faciale depuis près de 20 ans. Toutefois, ils se sont historiquement limités à rechercher des images fournies par les gouvernements. Mais ces dernières années, les algorithmes de reconnaissance faciale ont amélioré leur précision, et des entreprises comme Amazon proposent des produits qui peuvent créer un programme de reconnaissance faciale pour n’importe quelle base de données d’images.

Hoan Ton-That voulait dépasser ces capacités. En 2016, il a recruté plusieurs ingénieurs afin de l’aider à concevoir un programme capable de collecter automatiquement des images de visages de personnes sur des sites d’emploi, des sites d’actualités, des sites éducatifs et des réseaux sociaux, notamment Facebook, YouTube, Twitter et Instagram. Les représentants de ces sociétés ont déclaré que leurs politiques interdisaient ce type de collecte.

Violation des conditions d’utilisations des sites

Clearview viole les conditions d’utilisation des sites scrutés. « C’est une des raisons de son succès car ses services sont uniques », affirme le journaliste du NYT.

Cependant, le créateur de cette application ne semble pas s’inquiéter de cette situation. « Toute le monde fait cela. Et Facebook le sait », précise-t-il. Jay Nancarrow, un porte-parole de Facebook, a déclaré que la société examinait la situation avec Clearview et qu’elle prendrait des mesures appropriées si elle constatait que la start-up violait ses règles. Mais Peter Thiel, investisseur de Clearview, est aussi membre du conseil d’administration de Facebook. Le réseau social a refusé de livrer des commentaires à propos des investissements personnels de Thiel.

Fin de l’anonymat public

La fréquence avec laquelle l’outil fournit de fausses correspondances n’est pas claire, car il n’a pas été testé par un organisme indépendant.

« Nous ne disposons d’aucune donnée pour suggérer que cet outil est exact », a déclaré Clare Garvie, chercheuse au Centre on Privacy and Technology de l’Université de Georgetown. «Plus la base de données est volumineuse, plus le risque d’erreur d’identification est élevé. »

«Ce qu’ils font est effrayant, mais davantage de ces entreprises émergeront. Il n’y a pas de monopole sur les mathématiques », a déclaré Al Gidari, professeur de confidentialité à la Stanford Law School. « En l’absence d’une loi fédérale très stricte sur la vie privée, nous sommes tous foutus. »

Woodrow Hartzog, professeur de droit et d’informatique à la Northeastern University de Boston, estime que Clearview est la dernière preuve que la reconnaissance faciale devrait être interdite aux États-Unis.

« Nous avons compté sur les efforts de l’industrie pour s’auto-contrôler et ne pas adopter une technologie aussi risquée, mais maintenant ces barrages se brisent parce qu’il y a beaucoup d’argent sur la table », a déclaré Hartzog. «Je ne vois pas d’avenir où nous tirerons parti des avantages de la technologie de reconnaissance faciale sans que la surveillance qui l’accompagne n’aboutisse à des abus. La seule façon de l’arrêter est de l’interdire.»

Les différents services de police et les investisseurs de Clearview estiment que l’application pourrait devenir accessible au public.

« Rechercher quelqu’un via son visage pourrait devenir aussi simple que de rechercher un nom sur Google. Cela serait la fin de l’anonymat public », conclut Kashmir Hill.