Les chatbots et le déficit de gouvernance en matière d’IA au Canada

Le fait de laisser les systèmes d’IA s’attaquer à grande échelle aux populations vulnérables n’est pas une fatalité technique. Il s’agit d’un choix politique. Et lorsque des jeunes, sans expertise juridique ou technique spécialisée, sont capables d’identifier des besoins en matière de gouvernance qui s’alignent sur le consensus réglementaire international, le seul obstacle à l’action est la volonté politique.

Le gouvernement fédéral canadien a signalé qu’il avait l’intention de réglementer les chatbots basés sur l’IA, invoquant des préoccupations croissantes concernant la santé mentale, le bien-être et la sécurité des jeunes. Le rôle très médiatisé de ChatGPT dans la récente tragédie survenue à Tumbler Ridge, en Colombie-Britannique, a rendu ce signal impossible à ignorer. Mais, alors qu’Ottawa entame une nouvelle fois une période de délibération sur son dossier des préjudices en ligne, il existe un risque réel que le Canada répète un schéma familier: reconnaître les préjudices tout en reportant l’action, malgré l’existence d’une feuille de route politique et le fait que de jeunes Canadiens aient contribué à l’élaborer.

Ce que font déjà d’autres pays

Partout dans le monde, les gouvernements ont pris des mesures décisives pour faire face aux risques posés par les chatbots IA, en particulier pour les enfants et les jeunes. La loi sur l’IA de l’Union européenne interdit explicitement les systèmes qui déploient des techniques de manipulation ou exploitent les vulnérabilités liées à l’âge. Le commissaire à la sécurité en ligne de l’Australie classe les chatbots IA parmi les technologies à haut risque, soumises à des exigences de sécurité dès la conception. Le projet de loi brésilien sur la protection numérique des enfants impose le retrait des contenus préjudiciables et restreint les fonctionnalités qui encouragent la dépendance comportementale.

Le Canada, en revanche, ne dispose d’aucune évaluation obligatoire des risques avant le déploiement, d’aucune norme de sécurité dès la conception applicable, ni d’aucune exigence de surveillance continue, malgré des cas documentés de chatbots offrant des conseils préjudiciables liés à l’automutilation, aux troubles alimentaires et à la détresse émotionnelle. Alors que le gouvernement manifeste désormais son intérêt pour la réglementation, il devrait avoir pleinement conscience de l’ampleur du retard que nous avons accumulé.

Ce que demandent les jeunes Canadiens

Les jeunes Canadiens, touchés de manière disproportionnée par ces technologies, réclament une gouvernance plus proactive. Dans le cadre de Gen(Z)AI, un processus délibératif national lancé en novembre 2025 mené par des jeunes sous l’égide du Centre for Media, Technology, and Democracy et du Dialogue on Technology Project, des jeunes Canadiens âgés de 17 à 23 ans ont été réunis pour examiner les risques et les lacunes en matière de gouvernance entourant les chatbots IA. Au cours de délibérations structurées, les participants ont identifié trois domaines de préjudice interdépendants: la dépendance relationnelle, les impacts cognitifs et les risques liés au contenu. De ce travail a émergé un ensemble de recommandations politiques qui correspondent de manière remarquablement étroite aux meilleures pratiques internationales que le Canada n’a pas encore adoptées.

Les participants ont réclamé des contrôles obligatoires par l’utilisateur sur la réactivité des chatbots et l’intensité des conversations, reconnaissant que les choix de conception façonnent la dépendance émotionnelle et les comportements. Ils ont proposé la création d’un organisme de réglementation indépendant doté d’un pouvoir d’exécution, plutôt que de laisser la surveillance aux engagements volontaires de l’industrie. Et ils ont souligné la nécessité de mettre en place des régimes de modération des contenus et des processus de suppression des données.

Ce qui rend ces recommandations particulièrement frappantes, c’est leur convergence avec des modèles réglementaires éprouvés déjà en vigueur ailleurs. Les appels en faveur de protections au niveau de la conception font écho aux codes de conception adaptés à l’âge au Royaume-Uni et à ceux adoptés en Californie et dans d’autres États américains. Les demandes de surveillance indépendante reflètent les architectures réglementaires intégrées dans la loi sur les services numériques de l’UE et le cadre eSafety de l’Australie. La conclusion s’impose: les solutions aux préjudices causés par les chatbots IA ne sont ni mystérieuses ni techniquement irréalisables. Elles existent et peuvent bien fonctionner, mais le bilan législatif du Canada montre clairement que le gouvernement a maintes fois tergiversé sur ce dossier.

Pourquoi le Canada continue de tergiverser

Le projet de loi C-27, intitulé Loi sur la protection de la vie privée des consommateurs, aurait classé les données des enfants comme sensibles par défaut et étendu les protections aux informations déduites, précisément le type de garantie dont l’IA conversationnelle a besoin. Mais le Parlement ne l’a pas adopté. Le projet de loi C-63 (Loi sur les préjudices en ligne) excluait explicitement les chatbots IA, alors que des pays comparables, comme l’Australie, ont pris des mesures pour les réglementer.

Aujourd’hui, les précédentes tentatives du Canada visant à établir des normes applicables n’ont pas été reprises par la nouvelle administration, en partie à cause de l’attention étroite que porte le gouvernement à l’innovation et à l’adoption de l’IA, ce qui a été perçu comme allant à l’encontre de l’élaboration d’un programme réglementaire pour l’IA et les préjudices en ligne.

Ce discours sur le statu quo suggère que la réglementation de l’IA pèse sur les entreprises, freine les investissements et cède du terrain concurrentiel à d’autres juridictions. Mais ce cadre d’analyse interprète mal à la fois les faits et le contexte actuel. La sécurité réglementaire peut réduire les risques juridiques et de réputation pour les entreprises qui se développent à grande échelle, et les exigences de sécurité intégrée peuvent également favoriser une meilleure ingénierie. Le véritable handicap concurrentiel réside dans la création de systèmes et de produits d’IA qui nuisent aux jeunes utilisateurs sans aucune mesure permettant de tenir ces systèmes, ainsi que les entreprises qui les développent et les déploient, pour responsables. Ce n’est pas un véritable écosystème d’innovation ; c’est un risque qui ne demande qu’à se concrétiser, et les populations qui en supportent le risque en attendant ne sont pas des actionnaires, ce sont des enfants.

Trois points que les décideurs politiques doivent clarifier

Les décideurs politiques devraient réfléchir à trois points alors qu’ils travaillent à la prochaine version du portefeuille canadien sur les préjudices en ligne et la gouvernance de l’IA. Le premier est le champ d’application. Une législation sur les préjudices en ligne qui n’inclut pas explicitement les chatbots IA dans son champ d’application n’est pas adaptée à la situation actuelle. Au Royaume-Uni, l’Ofcom explore déjà une législation secondaire pour combler les lacunes de la loi britannique sur la sécurité en ligne concernant les chatbots, et le commissaire australien à la sécurité en ligne a enregistré des codes de conduite sectoriels qui imposent explicitement des obligations de sécurité aux développeurs de chatbots. Le Canada ne peut pas présenter un cadre qui soit en retard par rapport à ses homologues internationaux au moment de son adoption.

Le deuxième est la responsabilité en matière de conception. Le passage de la modération des contenus à une réglementation en amont de la conception fait la différence entre un régime à l’épreuve du temps et un régime qui ne l’est pas. Les obligations de « sécurité dès la conception » et de conception adaptée à l’âge, imposées comme conditions préalables au déploiement plutôt que comme réponses a posteriori aux préjudices, sont ce qu’exigent les données factuelles. Les données personnelles des enfants doivent être classées par défaut comme sensibles, avec des protections étendues aux données déduites et dérivées. Ces obligations sont techniquement applicables grâce à des limites obligatoires sur la persistance conversationnelle, des contrôles réglables par l’utilisateur sur les fonctionnalités de miroir émotionnel, et des mécanismes de limitation de la finalité qui empêchent que les données d’interaction des enfants soient recyclées dans des pipelines d’entraînement.

Le troisième est une capacité institutionnelle indépendante. Les données d’une récente enquête menée par le Dialogue on Technology Project de l’Université Simon Fraser montrent clairement que les Canadiens se méfient tant des entreprises technologiques que des gouvernements quant à leur capacité à gérer l’IA de manière responsable. Une architecture réglementaire crédible doit inclure un organisme indépendant habilité à exiger l’accès aux données, à mener des audits algorithmiques et à faire respecter la conformité. Sans une telle capacité, les obligations sur le papier n’auront aucun poids réel.

Nous avons entendu les jeunes eux-mêmes réclamer bon nombre de ces interventions. Plus que jamais, le mandat démocratique en matière de gouvernance de l’IA au Canada est substantiel, intergénérationnel et de plus en plus précis. Les Canadiens demandent au gouvernement de tenir les entreprises responsables des choix de conception qui causent déjà du tort, et de mettre en place la capacité institutionnelle nécessaire pour régir les technologies d’IA. Il s’agit d’un choix, et les Canadiens l’ont exprimé sans équivoque.