Reconnaissance faciale et IA: la pelote de laine à démêler

On peut lire ce matin dans les médias qu’un Québécois demande au tribunal d’autoriser une action collective contre le bailleur de centres commerciaux Cadillac Fairview relativement à l’utilisation de bornes lui ayant permis de recueillir les images et les données biométriques de millions de visiteurs sans leur consentement. Pour le requérant, le bailleur aurait ainsi violé le droit des clients à leur vie privée en vertu de la Charte des droits et libertés de la personne.

Le système de pointe installé par ce bailleur dans certains centres commerciaux au Québec aurait capté l’image de visiteurs consultant l’appareil, et ce, sans les aviser que leur image était ainsi captée puis analysée, notamment pour décliner certaines données comme le sexe de la personne. Bien qu’on n’était pas au point de tenter d’identifier les personnes précisément, la pratique a tout de même de quoi nous préoccuper, selon plusieurs.

Fait intéressant, le Commissariat à la protection de la vie privée du Canada («Commissariat») réclamait justement récemment des mesures de protection de la vie privée plus solides quant à l’élaboration et l’utilisation de technologies liées à la reconnaissance faciale et aux systèmes d’intelligence artificielle (IA). L’annonce publiée la semaine dernière mentionnait les défis qui se présentent à nous en matière de reconnaissance faciale et d’intelligence artificielle. Elle reprenait, en gros, le thème du problème que présente pour la société canadienne l’activation de systèmes qui peuvent désormais vous ficher instantanément et même vous reconnaître.

Le potentiel de dérapage est évidemment énorme, ce qui justifie de nous poser dès maintenant de sérieuses questions quant à ce qu’on peut faire pour restreindre ou baliser l’adoption trop débridée de ce type de technologies.

Instagram : cet espion dans votre poche?

Instagram et Facebook font l’objet d’une action collective aux États-Unis quant à l’accès à la caméra de certains cellulaires sans réelle permission des usagers. Si vous avez jamais envisagé que certaines applis vous espionnent, eh bien, il semble que ce ne soit pas de la pure paranoïa!

En effet, même si elles prétendent n’accéder à la caméra des appareils que quand un usager se sert de la caméra en utilisant l’application sur un appareil iPhone, la société Facebook et sa filiale Instagram accéderaient, semble-t-il, aux caméras pendant que l’appli est simplement activée. Selon ce que je comprends, en pratique, l’appli Instagram aurait donc été configurée pour considérer que l’usager «utilise» l’appli dès que celle-ci a été invoquée par l’usager, peu importe que ce soit 5 secondes, 5 minutes ou 5 jours avant. Vraiment? Oui, vraiment, semble-t-il (on parle pour l’instant d’allégations dans une poursuite, évidemment). C’est du moins ce qu’on semble apprendre en lisant la procédure déposée aux États-Unis par un usager au nom de l’ensemble des usagers qui auraient été ainsi espionnés par Facebook et sa filiale.

La nouvelle quant à cette forme d’espionnage émerge depuis juillet, suite à une mise à jour du système d’exploitation iOS, lequel permet dorénavant aux usagers de constater quelles applis utilisent (dans l’instant) la caméra de leur appareil, en temps réel.

L’action collective serait en cours d’examen par le tribunal, à savoir si l’affaire pourra aller de l’avant parce que suffisamment bien fondée. Parmi les allégations, on parle évidemment d’intrusion dans la vie privée des usagers (pensez-vous?) et de violation de la loi américaine en matière d’interception de communications privées, etc.

Les procédures introductives demandent notamment à ce que le tribunal considère d’ordonner à Instagram et Facebook de payer l’équivalent d’une pénalité dont le montant serait basé sur la quantité industrielle de profits générés par ces sociétés.

De son côté, Instagram et la maison-mère Facebook prétendent qu’il ne s’agit que d’une anicroche involontaire découlant d’une erreur de programmation dans l’iOS. Hmmm, ah oui, en anglais «passing the buck» — un classique!

En passant, je suis tombé sur cette affaire par l’entremise d’un vlogue (Vive Frei Vlawg) que je vous recommande, si vous aimez ce format et le droit. Bon visionnement si vous avez 20 minutes dans ce cas-ci.

Une autre raison pour moi de me féliciter d’avoir adopté Android.