Intelligence artificielle

J'ai obtenu mon fichier de Clearview AI, et ça m'a fait peur

J'ai obtenu mon fichier de Clearview AI, et ça m'a fait peur


Voici comment vous pourriez obtenir le vôtre

Photo: Aitor Diago / Getty Images

Avez-vous déjà eu un moment de paranoïa juste avant de publier une photo de vous (ou de votre enfant) sur les réseaux sociaux?

Vous avez peut-être ressenti un vague sentiment de malaise à l'idée de rendre la photo publique. Ou peut-être que la pensée nébuleuse vous est venue à l'esprit: «Et si Quelqu'un utilisé Ceci pour quelque chose? " Peut-être que vous aviez juste le sentiment tenace que partager une image de vous-même vous rendait vulnérable et vous ouvrait à une menace future inconnaissable.

Il s'avère que vos craintes étaient probablement justifiées. Quelqu'un a vraiment surveillé presque tout ce que vous publiez sur Internet public. Et ils font vraiment «quelque chose» avec.

La personne est Clearview AI. Et la chose est la suivante: créer un profil détaillé de vous à partir des photos que vous publiez en ligne, le rendre consultable en utilisant uniquement votre visage, puis le vendre aux agences gouvernementales et aux services de police qui l'utilisent pour vous suivre, identifier votre visage dans un foule et enquêter sur vous - même si vous n'avez été accusé d'aucun crime.

Je me rends compte que cela ressemble à un tas de balivernes de théorie du complot. Mais ce n'est pas. La technologie de Clearview AI est très réelle et elle est déjà utilisée.

Comment puis-je savoir? Parce que Clearview a un profil sur moi. Et aujourd'hui, j'ai mis la main dessus.

Clearview AI a été fondée en 2017. C'est une idée originale de l'entrepreneur australien Hoan Ton-That et de l'ancien assistant politique Richard Schwartz. Pendant plusieurs années, Clearview a essentiellement fonctionné dans l'ombre. C'était jusqu'à un exposé du début de 2020 par le New York Times dévoilé ses activités et son modèle économique.

le Fois, qui n'est généralement pas une institution sujette à l'hyperbole, a écrit que Clearview pouvait «mettre fin à la vie privée telle que nous la connaissons». Selon l'exposé, l'entreprise gratte les images publiques d'Internet. Ceux-ci peuvent provenir d'articles de presse, de publications publiques sur Facebook, de profils de médias sociaux ou de plusieurs autres sources. Clearview a apparemment récupéré plus de 3 milliards de ces images.

La société gère ensuite sa gigantesque base de données d'images via un système de reconnaissance faciale, identifiant toutes les personnes présentes sur chaque image en fonction de leur visage. Les images sont ensuite regroupées, ce qui permet à l'entreprise de former un profil détaillé et lié au visage de presque toute personne qui a publié une photo d'elle en ligne (ou dont le visage a été présenté dans un reportage, un site Web de l'entreprise, un mugshot ou similaires).

Clearview regroupe cette base de données dans un service facile à interroger (appelé à l'origine Smartcheckr) et la vend aux agences gouvernementales, aux services de police et à une poignée d'entreprises privées.

Les clients de Clearview peuvent télécharger une photo d'une personne inconnue sur le système. Cela peut provenir d'une caméra de surveillance, d'une vidéo anonyme publiée en ligne ou de toute autre source. Dans les courriels reçus par le Fois, un détective s'est même vanté du fonctionnement du système sur les photos prises de sujets sans méfiance à l'aide d'un téléobjectif.

En quelques secondes, Clearview localise la personne dans sa base de données en utilisant uniquement son visage. Il fournit ensuite leur profil complet au client. Début 2020, la société comptait plus de 2200 clients utilisant son service.

Que contient un profil Clearview? Jusqu'à récemment, il aurait été presque impossible de le savoir. Des entreprises comme Clearview n'étaient pas tenues de partager leurs données et pouvaient facilement créer des bases de données massives d'informations personnelles en secret.

Grâce à deux textes législatifs marquants, cela change. En 2018, l'Union européenne a commencé à appliquer le règlement général sur la protection des données (RGPD). Et le 1er janvier 2020, une loi équivalente, la California Consumer Privacy Act (CCPA), est entrée en vigueur dans mon pays d'origine.

Le GDPR et le CCPA offrent aux consommateurs un accès sans précédent aux données personnelles que des entreprises comme Clearview collectent à leur sujet. Si un consommateur soumet une demande valide, les entreprises sont tenues de leur fournir leurs données. Les sanctions pour non-conformité s'étendent sur des dizaines de millions de dollars. Plusieurs autres États américains envisagent une législation similaire, et une loi fédérale sur la confidentialité est attendue dans les cinq prochaines années.

Dans une semaine du Fois’Exposer, j’ai soumis ma propre demande de CCPA à Clearview. Pendant environ un mois, je n'ai reçu aucune réponse. L'entreprise m'a alors demandé de remplir un formulaire Web, ce que j'ai fait. Plusieurs semaines se sont écoulées. J'ai finalement reçu un message de Clearview me demandant une copie de mon permis de conduire et une photo claire de moi.

Je les ai fournis. En quelques minutes, ils ont renvoyé mon profil.

Pour référence, voici la photo que j'ai fournie pour ma recherche.

C’est une photo de téléphone portable de moi en train de faire des latkes. J'ai délibérément envoyé une photo avec beaucoup de choses visuelles et une où mon visage n'est pas éclairé ou encadré par un professionnel. Je voulais voir comment Clearview se comporterait sur le type de photo de tous les jours que n'importe qui pourrait publier sur les réseaux sociaux.

Voici le profil que j'ai récupéré. Les suppressions en rouge sont les miennes, comme décrit ci-dessous.

Sur la base du calendrier des e-mails et des données de la Fois'Histoire, j'estime que Clearview a récupéré mon profil en moins d'une minute. Cela aurait pu être aussi rapide que quelques secondes.

La profondeur et la variété des données que Clearview a recueillies sur moi est stupéfiante. Mon profil contient, par exemple, une histoire publiée à mon sujet dans le magazine des anciens de mon alma mater de 2012, et un article de suivi publié un an plus tard.

Il comprend également une page de profil d'un groupe de rencontre de codeurs Python auquel j'avais oublié d'appartenir, ainsi qu'une grande variété de messages d'un blog personnel que ma femme et moi avons commencé juste après le mariage.

Le profil contient l'URL de ma page Facebook, ainsi que les noms de plusieurs personnes ayant des liens avec moi, y compris mon conseiller pédagogique et un membre de ma famille (j'ai caviardé leurs informations et leurs images en rouge avant de publier mon profil ici).

À partir de ces données, un enquêteur pourrait en savoir beaucoup sur moi. D'abord et de toute évidence, ils connaîtraient mon nom. Ils sauraient également où je suis allé à l’école, dans quel domaine je travaille et dans la région où je vis.

Depuis ma page Facebook, ils pouvaient voir tout ce que je publiais (j'étais tellement choqué par les données disponibles là-bas que j'ai rendu mon profil privé après avoir reçu le rapport de Clearview). Et ils auraient des données sur plusieurs de mes associés connus - plus que suffisant pour accéder à leurs profils Clearview également.

Si quelqu'un essayait de me retrouver - en particulier quelqu'un avec des pouvoirs de police à sa disposition - le profil de Clearview leur fournirait plus que suffisamment de données pour le faire.

Le plus inquiétant est peut-être le fait que certaines données de Clearview sont fausses. Le dernier hit sur mon profil est un lien vers une page Facebook pour une personne complètement différente. Si un enquêteur a fouillé mon visage et a suivi cette piste (soupçonnant peut-être que la personne était en fait mon pseudonyme), il est possible que je puisse être accusé d'un crime que la personne inconnue et sans lien de parenté dont le profil a été révélé dans mon rapport a effectivement commis.

N'oubliez pas que toutes ces données ont été récupérées à l'aide d'une seule image de mon visage. Je n'ai jamais été arrêté ou condamné pour un crime. Clearview a collecté mes données à mon insu, et sans aucune justification ou cause probable.

Ils ont probablement fait la même chose pour vous. S'ils ont - et que vous êtes un résident de la Californie ou un citoyen de l'UE - l'entreprise est légalement tenue de vous donner votre profil également.

Pour y accéder, numérisez ou photographiez votre permis de conduire et choisissez une photo claire de vous où votre visage est entièrement visible (non masqué par des lunettes, un chapeau ou d'autres objets). Envoyez-les à privacy@clearview.ai par e-mail. Indiquez clairement que votre message est une demande CCPA ou GDPR.

Suivez toutes les instructions que vous recevez. Attendez-vous à ce que le traitement de votre demande prenne jusqu'à deux mois. Soyez persévérant dans le suivi. Et n'oubliez pas qu'une fois que vous avez reçu vos données, vous avez la possibilité d'exiger que Clearview les supprime ou les modifie si vous le souhaitez.

Je sais. Il se passe beaucoup de choses en ce moment. Mais alors que le nouveau coronavirus se propage dans le monde entier, de nombreuses sociétés de reconnaissance faciale utilisent la pandémie comme une raison pour étendre leurs services, notamment en surveillant le public. Parfois, cela conduit à des mesures de sécurité utiles. Mais nous devons également être conscients - et gérer activement - les implications de cette expansion pour la vie privée.

Au-delà du facteur effrayant, la collecte de renseignements de Clearview soulève une question séculaire. Si vous n’avez rien fait de mal, devez-vous vous soucier que l’entreprise recueille des données vous concernant? Si vous êtes un citoyen respectueux des lois, cela ne devrait pas avoir d'importance, non?

Le problème est que faire «quelque chose de mal» est un concept très glissant. Clearview pourrait être utilisé pour enquêter sur des crimes graves. Mais il pourrait également être utilisé pour identifier toutes les personnes qui ont assisté à un rassemblement politique ou à une manifestation, en utilisant uniquement des photos de surveillance ou des images publiées sur les réseaux sociaux.

Comme le Fois souligne, il pourrait également être utilisé pour faire chanter presque n'importe qui. Un utilisateur sans scrupules pourrait enregistrer des personnes ayant une conversation embarrassante en public, déterminer leur identité à l'aide de leurs visages et menacer de publier la conversation à moins d'avoir payé.

Il pourrait également être utilisé pour rechercher des personnes sans discrimination, sans aucune raison. Comme le Fois découvert, Clearview a jeté les bases de l'accès à son système via des lunettes AR. Cela signifie qu'il est concevable qu'un officier de police puisse traverser une foule portant des lunettes antirétrovirales et voir le nom et les informations de base de chaque personne dans son champ de vision superposés en temps réel sur la tête de la personne.

Nous supposons que nous pouvons bénéficier d'un certain niveau d'anonymat, même dans les espaces publics. La technologie de Clearview renverse cette hypothèse.

Il existe d'autres problèmes majeurs avec le système Clearview. Son traitement du droit d'auteur, par exemple, devrait suffire à mettre l'eau à la bouche de tout avocat plaignant.

Plusieurs des photos que Clearview a rassemblées sur moi - et intégrées à son produit - ont été prises par des photographes professionnels. La photo sur ma page de profil Meetup, par exemple, a été prise par un photographe que j'ai embauché. J'en possède le droit d'auteur. Et Clearview n'a jamais obtenu de licence pour l'utiliser.

Sur ce front, l'entreprise tente de se cacher derrière la Digital Millennium Copyright Act. Le DMCA fournit un havre sûr pour des plateformes comme Facebook ou Google si leurs utilisateurs publient du matériel protégé par des droits d'auteur. Mais Clearview n'est pas une plateforme. Et les utilisateurs ne publient pas de photos sur leur système - la société les capture activement par elle-même, sans le consentement des titulaires des droits d'auteur. Il est peu probable que le DMCA s'y applique.

Les lois sur l'utilisation équitable et A.I. les produits sont complexes et évolutifs. Mais si les tribunaux se prononcent du côté des titulaires de droits d'auteur, Clearview pourrait potentiellement être assis sur 3 milliards de violations de droits d'auteur. Chacun pourrait valoir jusqu'à 250 000 $ en dommages-intérêts, à condition que les titulaires des droits d'auteur aient correctement enregistré leurs droits. C’est une faille dans le modèle de Clearview qui pourrait facilement faire tomber l’entreprise.

Même si Clearview disparaît, une autre entreprise similaire se lancerait à sa place. Le grattage du Web et la reconnaissance faciale sont aujourd'hui essentiellement des produits de base. Pour quelques millions de dollars, presque toute personne ayant une formation en démarrage pourrait probablement créer sa propre version de Clearview en moins d'un an.

Pour vraiment garantir que des entreprises comme Clearview (ou leurs clients) n'abusent pas de la vie privée des citoyens, la société a besoin d'une législation claire indiquant quand la reconnaissance faciale et d'autres technologies connexes peuvent et ne peuvent pas être utilisées. Déjà, certaines villes ont commencé à adopter une telle législation. Mais pour être efficace, cela doit se produire à une échelle beaucoup plus large.

Au crédit de l'entreprise, le système Clearview n'est pas seulement un paria de confidentialité. C'est également une technologie révolutionnaire pour enquêter sur les crimes odieux comme les abus sexuels sur enfants. Comme le Fois rapporte, dans un cas, Clearview a aidé à attraper un prédateur présumé sur la base d'un visage réfléchi sur une photo sans rapport publiée dans un gymnase. C'est également un outil puissant pour résoudre les meurtres abandonnés depuis longtemps et toutes sortes d'autres cas froids.

Toute législation régissant des technologies comme Clearview devrait protéger les citoyens contre les recherches aléatoires. Mais en même temps, cela devrait permettre aux autorités d'utiliser des services comme Clearview lorsque leur utilisation est justifiée.

Comme pour tout problème de vie privée, jusqu'à ce qu'une législation stricte soit en place, il nous appartient, en tant que citoyens, de rester informés et de protéger nos propres droits.

Si les perquisitions sur Clearview suivaient les mêmes règles que les autres perquisitions (comme l'exigence que les services de police obtiennent un mandat pour les exécuter), ce serait un énorme pas vers la protection de la vie privée des citoyens innocents. Surtout, cela permettrait toujours aux enquêteurs d'utiliser le système pour résoudre des crimes graves, tout comme ils utilisent actuellement des fouilles autorisées par le tribunal pour enquêter sur des suspects.

Jusqu'à l'adoption d'une telle législation, le domaine de la reconnaissance faciale est essentiellement le Far West. Les entreprises peuvent recueillir presque toutes les données qu'elles souhaitent sur vous et les utiliser à presque toutes les fins.

Comme pour tout problème concernant la vie privée, jusqu'à ce qu'une législation stricte soit en place, c'est à nous, citoyens, de rester informés et de protéger nos propres droits. Pour les Californiens - et les citoyens de la myriade d'États et de pays développant leurs propres lois sur la confidentialité - nous avons maintenant des outils puissants sur notre arsenal pour le faire.

Plutôt que d'attendre que la législation arrive, tirez parti de ces outils dès aujourd'hui pour vous renseigner auprès de Clearview et d'autres sociétés qui vous connaissent. Décidez ensuite de ce que vous souhaitez supprimer, modifier ou laisser en place.

Le pouvoir de contrôler les données a toujours appartenu aux grandes entreprises. Mais cela passe de plus en plus entre nos mains. Ce n'est que par notre propre vigilance et notre action que nous pouvons nous assurer que nous comprenons et contrôlons les données recueillies à notre sujet.

Afficher plus

SupportIvy

SupportIvy.com : Un lieu pour partager le savoir et mieux comprendre le monde. Meilleure plate-forme de support gratuit pour vous, Documentation &Tutoriels par les experts.

Articles similaires

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Bouton retour en haut de la page
Fermer