Reconnaissance faciale et IA: la pelote de laine à démêler

On peut lire ce matin dans les médias qu’un Québécois demande au tribunal d’autoriser une action collective contre le bailleur de centres commerciaux Cadillac Fairview relativement à l’utilisation de bornes lui ayant permis de recueillir les images et les données biométriques de millions de visiteurs sans leur consentement. Pour le requérant, le bailleur aurait ainsi violé le droit des clients à leur vie privée en vertu de la Charte des droits et libertés de la personne.

Le système de pointe installé par ce bailleur dans certains centres commerciaux au Québec aurait capté l’image de visiteurs consultant l’appareil, et ce, sans les aviser que leur image était ainsi captée puis analysée, notamment pour décliner certaines données comme le sexe de la personne. Bien qu’on n’était pas au point de tenter d’identifier les personnes précisément, la pratique a tout de même de quoi nous préoccuper, selon plusieurs.

Fait intéressant, le Commissariat à la protection de la vie privée du Canada («Commissariat») réclamait justement récemment des mesures de protection de la vie privée plus solides quant à l’élaboration et l’utilisation de technologies liées à la reconnaissance faciale et aux systèmes d’intelligence artificielle (IA). L’annonce publiée la semaine dernière mentionnait les défis qui se présentent à nous en matière de reconnaissance faciale et d’intelligence artificielle. Elle reprenait, en gros, le thème du problème que présente pour la société canadienne l’activation de systèmes qui peuvent désormais vous ficher instantanément et même vous reconnaître.

Le potentiel de dérapage est évidemment énorme, ce qui justifie de nous poser dès maintenant de sérieuses questions quant à ce qu’on peut faire pour restreindre ou baliser l’adoption trop débridée de ce type de technologies.

Peut-on inscrire un resto, contre son gré, à un service de commande en ligne?

Le service GrubHub, un concurrent de services comme Uber Eat et DoorDash, fait récemment l’objet d’une poursuite, aux États-Unis, liée au fait que certains restaurateurs s’estiment lésés parce que leurs établissements ont été inscrits sans leur accord. Selon eux, le fait qu’un tiers (GrubHub) rend des services associés à leurs restaurants leur cause préjudice, puisque c’est fait sans aucune rémunération ni aucun contrôle par le restaurant visé, lequel peut ensuite en subir les contrecoups sans en avoir adéquatement bénéficié.

Cette affaire survient dans un contexte où les très populaires services de livraison de repas de restos ont découvert, au cours des dernières années, qu’on pouvait bien ne pas attendre l’accord de chaque établissement pour le placer dans la liste des endroits desquels on pouvait commander. Pourquoi attendre, disent-ils. J’ai simplement à ajouter le resto, à mettre son menu dans mon site, à recevoir les commandes, puis à contacter moi-même le resto pour faire préparer le repas en question, que je passe ensuite chercher, avant de le livrer au client. Je fais de l’argent, le resto aussi. Où est le problème?

Eh bien, des restaurateurs américains ont récemment déposé des procédures judiciaires alléguant que ce genre de pratique est problématique et préjudiciable. Certes, les restos font un profit sur chacune des livraisons, mais cela ne suffit pas, selon eux, puisqu’ils perdent ainsi une part de contrôle sur l’expérience des clients avec leur établissement. En gros, puisque la livraison fait partie des services accessoires, la nature ou la qualité de ces services de livraison se reflète sur l’établissement. Lorsque le service est de piètre qualité ou que des erreurs se glissent dans la commande (ce qui serait fréquent), est-ce normal que la réputation du resto soit entachée, alors qu’il n’a pas été impliqué? C’est essentiellement la question qui se pose ici.

La poursuite allègue qu’au final, une fois certains consommateurs refroidis par le piètre service de livraison, ceux-ci peuvent tout simplement cesser de commander de chaque restaurant visé, causant ainsi un préjudice économique clair, lequel justifierait l’octroi de dommages-intérêts. Un argument pourrait aussi être avancé que l’utilisation de la marque de chaque resto, de cette façon, équivaut à de la contrefaçon ou, à tout le moins, est susceptible d’affecter l’achalandage lié à ces marques de commerce. Bref, il y a certainement place à un beau dossier de litige commercial.

Il semble que cette inscription involontaire constitue une partie de la stratégie de mise en marché habituelle de GrubHub, si bien que des dizaines de milliers de restaurants seraient potentiellement inclus dans la liste des victimes, et donc membres du groupe de cette action collective.

Quand le mandat de perquisition se met à l’heure du numérique

On rapporte, depuis l’annonce des nouvelles directives de la santé publique québécoise, que l’État québécois vient de munir ses forces de l’ordre d’outils visant à faciliter le travail des policiers pour composer avec la COVID-19, ou plutôt avec le manque de discipline de nombreux Québécois. On a ainsi donné aux policiers un nouveau type de contravention à remettre aux récalcitrants, en plus de prévoir la possibilité pour les policiers de faire usage de ce qu’on nomme des «télémandats».

La première nouveauté à ce sujet a trait à un simple détail essentiellement administratif du processus de donner une contravention, grâce à une modification relativement récente apportée au Code de procédure pénal. Avec cette version simplifiée (et instantanée), les policiers peuvent dorénavant remettre un constat d’infraction, avec une amende de 1000$ en plus de frais de plus de 500$ aux contrevenants, et ce, sur le champ. Ouch.

La deuxième nouveauté, et c’est là l’aspect technologique qui m’intéresse, c’est qu’on facilite désormais le travail des policiers pour obtenir la permission d’un juge en certaines circonstances quand un mandat (par ex., de perquisition) est nécessaire. Selon l’article de La Presse:

«L’utilisation du télémandat a été élargie en vertu d’un projet de loi adopté en juin “visant principalement à favoriser l’efficacité de la justice pénale et à établir les modalités d’intervention de la Cour du Québec dans un pourvoi en appel” ».

Selon ce qu’on peut lire dans les médias à ce sujet, c’est que le gouvernement réalise que des règles régissant ce que font les citoyens à la maison (comme recevoir de la visite) risquent fort d’être ignorées par de nombreux Québécois si les règles habituelles de protection de la demeure des citoyens (contre l’intrusion des forces de l’ordre) continuent à être appliquées de façon, disons, classique. Si un citoyen fait une plainte parce que son voisin reçoit des amis (par exemple), que peuvent y faire les policiers si on se refuse à les laisser entrer ou à répondre à la porte? Normalement, la réponse serait «pas grand-chose, à moins d’un crime qu’on peut constater de l’extérieur ou d’un sérieux problème qui mérite d’aller chercher un véritable mandat de perquisition en se présentant devant le juge afin qu’il émette l’ordonnance requise».

La solution qu’a trouvée l’État pour pallier ce problème dans le contexte de la pandémie, c’est de préconiser (et de permettre) l’utilisation de mandats qu’on peut obtenir à distance, par des moyens technologiques ou même par téléphone, au pire. C’est un peu comme les forces policières et le système judiciaire qui se mettent à l’ère de Zoom, si vous voulez. Pas super pour les libertés individuelles, mais pas mal plus efficace comme manière de procéder quand des citoyens décident d’être délinquants en matière de santé publique.

Une telle demande de télémandats implique que les policiers aient des motifs raisonnables de croire qu’une infraction est en train d’être commise à telle adresse et qu’un policier signe une déclaration à cet effet, qu’il communique au juge par un moyen technologique quelconque, incluant, au pire, le téléphone. Eh oui, même le système procédural pénal québécois est rendu là.