Archives de catégorie : Législation

Le gouvernement canadien entendrait régir, par l’entremise du CRTC, les contenus placés en ligne, incluant l’UGC et les applis

Publié le par

Comme on s’en souviendra, depuis l’automne dernier, le gouvernement fédéral est à tenter de faire adopter son projet de loi C-10, lequel vise à modifier la Loi sur la radiodiffusion (inter alia), afin de viser les entreprises en ligne, incluant afin de permettre au gouvernement de taxer les services de diffusion en continu. Or, on apprenait récemment que le gouvernement aurait aussi l’intention de proposer des amendements législatifs visant à régir le contenu de ce qui est mis en ligne par les usagers (le «user-generated content», ou «UGC») et même le contenu des applis elles-mêmes.

Oui, le gouvernement libéral serait à tenter de modifier la loi canadienne afin de conférer à son chien de garde, le CRTC, le pouvoir de se prononcer quant aux contenus qui s’avèrent acceptables en ligne, incluant par rapport à ce qui est placé dans du contenu généré par des internautes, des jeux d’ordi et des applis en général. C’est du moins ce que voit poindre le juriste Michael Geist, basé sur le commentaire d’un député ayant (par erreur) commenté des amendements qui ne sont pas encore formellement proposés. Selon les propos du député en question, le gouvernement voudrait bel et bien ajouter le contenu des applis à ce que peut régir le CRTC — ce serait bien réel.

D’un projet de loi initialement présenté comme simplement destiné à permettre de taxer les Netflix de ce monde, à cause du mécanisme utilisé (la diffusion en continu), on est passé à un projet de loi visant aussi certains contenus, pour sembler nous diriger allègrement vers un projet de loi dont le résultat serait de régir carrément le matériel placé en ligne, y compris les applis, les jeux d’ordi et les éléments que créent et mettent en ligne des individus (des billets de blogue, des balados, etc.).

Y a-t-il seulement moi qui décèle une légère dérive dans ce qui est en train de se passer côté contrôle de l’Internet par le grand garnement fédéral? Hmmm. À suivre —malheureusement.

L’intelligence artificielle dans la mire du législateur européen

Publié le par

On rapporte le dépôt d’un projet de règlement européen, ce matin, visant à régir l’utilisation de l’intelligence artificielle (l’«IA») par les entreprises. Encore une fois, comme avec son règlement en matière de données personnelles, l’Europe mène le bal en matière d’encadrement juridique de ce que font et devraient pouvoir faire les entreprises.

Cette fois, l’effort législatif européen vise à contraindre l’utilisation de l’IA, en particulier en divisant les systèmes l’utilisant en quatre catégories de risques pour les droits et la sécurité des individus. Bien que l’IA ait un potentiel énorme, sa venue comporte néanmoins d’énormes risques pour l’intérêt public et la société en général, sans parler des droits des individus. Ce règlement viserait donc à mettre en place des règles plus ou moins strictes, tout dépendant du risque perçu en matière de santé, de sécurité ou de droits fondamentaux des individus. Plus une utilisation s’avère dangereuse, plus les lois européennes en contraindraient l’utilisation — c’est l’idée.

La Commission européenne propose ainsi « de nouvelles règles et actions en faveur de l’excellence et de la confiance dans l’intelligence artificielle », par une proposition visant à éventuellement harmoniser le traitement de l’IA par les pays européens. Le but : éviter une dystopie rendue possible par l’adoption débridée de l’IA par les organisations de tous acabits, sans jamais leur avoir imposé de cadre juridique.

Par exemple, le règlement interdirait certains systèmes posant un risque démesuré de surveillance ou d’abus des droits de la personne, comme ceux qui permettraient de mettre en œuvre un système de pointage citoyen, à l’instar de ce que la Chine met en place chez elle.

À l’échelon suivant, les « systèmes d’IA à haut risque devront respecter des obligations strictes pour pouvoir être mis sur le marché »; la réglementation obligerait les organisations utilisant des systèmes d’IA risqués à déployer des dispositifs de sûreté et de gestion, à documenter et tester leurs systèmes, à les inscrire auprès des autorités européennes, à afficher le degré de risque associé à leur système, etc. Ces systèmes comprendraient :

  • les technologies d’IA qui sont utilisées dans les infrastructures critiques (par exemple les transports) et sont susceptibles de mettre en danger la vie et la santé des citoyens;
  • les technologies d’IA utilisées dans l’éducation ou la formation professionnelle, qui peuvent déterminer l’accès à l’éducation et le parcours professionnel d’une personne (par exemple, la notation d’épreuves d’examens);
  • les technologies d’IA utilisées dans les composants de sécurité des produits (par exemple, l’application de l’IA dans la chirurgie assistée par robot);
  • les technologies d’IA utilisées dans le domaine de l’emploi, de la gestion de la main-d’œuvre et de l’accès à l’emploi indépendant (par exemple, les logiciels de tri des CV pour les procédures de recrutement);
  • les technologies d’IA utilisées dans les services privés et publics essentiels (par exemple, l’évaluation du risque de crédit, qui prive certains citoyens de la possibilité d’obtenir un prêt);
  • les technologies d’IA utilisées dans le domaine du maintien de l’ordre, qui sont susceptibles d’interférer avec les droits fondamentaux des personnes (par exemple, la vérification de la fiabilité des éléments de preuve);
  • les technologies d’IA utilisées dans le domaine de la gestion de la migration, de l’asile et des contrôles aux frontières (par exemple, la vérification de l’authenticité des documents de voyage);
  • les technologies d’IA utilisées dans les domaines de l’administration de la justice et des processus démocratiques (par exemple, l’application de la loi à un ensemble concret de faits).

Les deux autres catégories de systèmes d’IA seraient susceptibles de passablement moins de contraintes, incluant, à titre d’exemple, l’obligation de simplement le divulguer quand un système de clavardage implique que l’usager soit face à une IA, plutôt qu’à un être humain véritable.

On avance déjà que cette initiative européenne fera des petits, alors que nombre d’autres juridictions sont susceptibles d’emboîter le pas. Bien que le Canada ne soit encore là, il ne serait pas étonnant qu’une initiative semblable voie ici le jour — en fait, le contraire le serait. En déposant ce projet de règlement, le Parlement européen déclare d’ailleurs que son intention est « d’élaborer de nouvelles normes mondiales qui garantiront que l’IA soit digne de confiance ».

Si vous êtes curieux, le projet de règlement couvre 85 articles, sur 50 pages. Vous savez —une petite lecture légère de vacances pour cet été.

Le gouvernement canadien déposera bien un projet de loi visant à combattre les contenus inacceptables en ligne

Publié le par

On rapportait tout récemment que le ministre du Patrimoine canadien confirme que le gouvernement entend bel et bien présenter un projet de loi d’ici quelques semaines dans le but de contrer certains types de propos (notamment haineux ou menaçants) en ligne, en proposant de mieux régir ce qui se publie en ligne au Canada. On avait entendu parler de ce projet il y a quelques semaines et le projet va, semble-t-il, bien de l’avant.

Selon le ministre, un sondage récent démontre que son gouvernement a bien le mandat populaire de mettre en place un nouveau système visant à réduire la présence des contenus inacceptables sur l’Internet et les réseaux sociaux canadiens, ce qui comprend la haine, la pornographie juvénile et les images intimes publiées sans consentement. Bref, on veut faire le ménage sur Internet, du moins par rapport à ce qui se fait ou se voit au Canada. En somme, le but serait de parvenir à un Internet accessible aux Canadiens qui s’avère moins truffé de haine, de menaces, de pédo-porno, etc.

Pièce de résistance du projet, le but serait notamment de rendre les réseaux sociaux (par exemple, Facebook et compagnie) responsables des messages (du contenu, en fait) qui s’affichent par l’entremise de leurs plateformes respectives. On pourrait notamment exiger d’eux qu’ils retirent les propos problématiques quand ils se manifestent, de façon à minimiser le dommage causé à la société canadienne — c’est la justification qu’on avance pour ce projet que plusieurs qualifient déjà de système de censure en devenir made in Canada.

En l’occurrence, le système qu’on envisage de créer à ce sujet impliquerait l’obligation pour les réseaux sociaux de retirer les propos haineux (ou racistes) dès qu’ils leur sont signalés — dans les 24 heures, en contraste à ce qui se fait souvent présentement, même quand on rapporte un problème de ce genre. Le projet impliquerait aussi d’obliger les exploitants de ces réseaux d’aviser les autorités lorsqu’ils constatent de grave cas de propos haineux sur leurs plateformes respectives, etc.

Le projet comprendrait aussi la création d’un poste de régulateur, lequel serait responsable de faire appliquer la nouvelle loi, à l’instar de ce que fait le CRTC par rapport à la Loi sur les télécommunications, par exemple. La loi créerait ainsi cinq catégories d’activités illégales que ce nouvel officier public serait chargé de faire disparaître du Net canadien.

Ce projet fait suite à l’adoption par le Canada de sa Charte numérique, laquelle donne une orientation afin de mieux contrôler ce qui se passe en ligne, au bénéfice présumé de la collectivité canadienne, notamment en empêchant les excès d’extrémisme et de discours haineux par la mise en œuvre de mesures de contrôle sévères sur ce qui se publie au Canada.

On propose donc de donner un sérieux coup de volant, mettant ainsi fin au laissez-faire généralisé qui prévaut depuis les début de l’Internet, ce qui fait déjà craindre à plusieurs que les outils pareils qu’on créerait avec ce projet pourraient facilement faire l’objet d’abus, en ayant des effets néfastes sur la liberté d’expression au Canada.