Archives de l’étiquette : reconnaissancefaciale

Base de données de Clearview: clairement en violation des règles canadiennes en matière de protection des renseignements personnels

Publié le par

On rapporte ce matin que le commissaire à la protection de la vie privée déclarait cette semaine que l’entreprise Clearview AI a violé les droits des Canadiens à grande échelle par l’entremise de son système de reconnaissance faciale. La base de données créée par Clearview en configurant son système pour naviguer au hasard du Web et des réseaux sociaux en fichant tout un chacun des individus que le système peut repérer et identifier. Le système aurait ainsi emmagasiné trois milliards de photographies de visages d’individus. Oui, MILLIARDS.

En fichant autant de Canadiens sans aucune permission, l’entreprise aurait donc en un sens violé la loi canadienne, d’une façon qui met les personnes à risque, notamment d’abus par les forces de l’ordre (par exemple par la GRC, jusqu’à récemment un bon client de Clearview). En pratique, à tout le moins, c’est le résultat.

On comprendra qu’il y a quelque chose de dérangeant dans une situation où des policiers pourraient ne pas avoir le pouvoir de faire X, mais y parvenir en passant par un produit comme Clearview. Devrait-on se formaliser qu’un corps policier puisse entrer la photo d’un suspect dans le système de Clearview et l’identifier, sans aucun mandat?

Du côté de l’entreprise même, on peut aussi voir comme étant problématiques les pratiques d’une société dont le système surfe en ligne et sauvegarde (c’est-à-dire inscrit sans vergogne dans sa base de données) les photos de tous les individus qu’elle parvient à identifier. Euhhh, pensez-vous?

Plusieurs commissaires (provinciaux) à la protection de la vie privée ont d’ailleurs joint leur voix à celle du commissaire fédéral à ce sujet. L’entreprise, elle, refuse d’admettre que ses activités s’avèrent problématiques, notamment parce qu’elle est américaine et donc, selon elle, non liée par les lois canadiennes. Clearview s’est d’ailleurs retirée du marché canadien en 2020, en cessant en principe d’offrir l’accès à son système à des organisations canadiennes. Selon elle, n’ayant plus de connexion suffisante avec le Canada, elle peut faire ce qu’elle veut, peu importe que cela puisse froisser les sensibilités de quelques citoyens canadiens. En vertu de la loi canadienne à ce sujet, cette position est malheureusement défendable, ce pour quoi les autorités pourraient bien frapper un mur si elles tentaient de déposer de réelles procédures contre Clearview.

À tout événement, les commissaires invitent à nouveau Clearview à supprimer les photos des Canadiens qui auraient été fichés (sans permission) dans sa base de données. Permettez-moi de ne pas retenir mon souffle pendant qu’on attend que Clearview se conforme à cette invitation.

Reconnaissance faciale et IA: la pelote de laine à démêler

Publié le par

On peut lire ce matin dans les médias qu’un Québécois demande au tribunal d’autoriser une action collective contre le bailleur de centres commerciaux Cadillac Fairview relativement à l’utilisation de bornes lui ayant permis de recueillir les images et les données biométriques de millions de visiteurs sans leur consentement. Pour le requérant, le bailleur aurait ainsi violé le droit des clients à leur vie privée en vertu de la Charte des droits et libertés de la personne.

Le système de pointe installé par ce bailleur dans certains centres commerciaux au Québec aurait capté l’image de visiteurs consultant l’appareil, et ce, sans les aviser que leur image était ainsi captée puis analysée, notamment pour décliner certaines données comme le sexe de la personne. Bien qu’on n’était pas au point de tenter d’identifier les personnes précisément, la pratique a tout de même de quoi nous préoccuper, selon plusieurs.

Fait intéressant, le Commissariat à la protection de la vie privée du Canada («Commissariat») réclamait justement récemment des mesures de protection de la vie privée plus solides quant à l’élaboration et l’utilisation de technologies liées à la reconnaissance faciale et aux systèmes d’intelligence artificielle (IA). L’annonce publiée la semaine dernière mentionnait les défis qui se présentent à nous en matière de reconnaissance faciale et d’intelligence artificielle. Elle reprenait, en gros, le thème du problème que présente pour la société canadienne l’activation de systèmes qui peuvent désormais vous ficher instantanément et même vous reconnaître.

Le potentiel de dérapage est évidemment énorme, ce qui justifie de nous poser dès maintenant de sérieuses questions quant à ce qu’on peut faire pour restreindre ou baliser l’adoption trop débridée de ce type de technologies.