Le fait de laisser les syst\u00e8mes d\u2019IA s\u2019attaquer \u00e0 grande \u00e9chelle aux populations vuln\u00e9rables n\u2019est pas une fatalit\u00e9 technique. Il s\u2019agit d\u2019un choix politique. Et lorsque des jeunes, sans expertise juridique ou technique sp\u00e9cialis\u00e9e, sont capables d\u2019identifier des besoins en mati\u00e8re de gouvernance qui s\u2019alignent sur le consensus r\u00e9glementaire international, le seul obstacle \u00e0 l\u2019action est la volont\u00e9 politique.<\/p>\n\n\n\n
Le gouvernement f\u00e9d\u00e9ral canadien a signal\u00e9 qu\u2019il avait l\u2019intention de r\u00e9glementer les chatbots bas\u00e9s sur l\u2019IA<\/a>, invoquant des pr\u00e9occupations croissantes concernant la sant\u00e9 mentale, le bien-\u00eatre et la s\u00e9curit\u00e9 des jeunes. Le r\u00f4le tr\u00e8s m\u00e9diatis\u00e9 de ChatGPT dans la r\u00e9cente trag\u00e9die survenue \u00e0 Tumbler Ridge<\/a>, en Colombie-Britannique, a rendu ce signal impossible \u00e0 ignorer. Mais, alors qu\u2019Ottawa entame une nouvelle fois une p\u00e9riode de d\u00e9lib\u00e9ration sur son dossier des pr\u00e9judices en ligne<\/a>, il existe un risque r\u00e9el que le Canada r\u00e9p\u00e8te un sch\u00e9ma familier: reconna\u00eetre les pr\u00e9judices tout en reportant l\u2019action, malgr\u00e9 l\u2019existence d\u2019une feuille de route politique et le fait que de jeunes Canadiens aient contribu\u00e9 \u00e0 l\u2019\u00e9laborer.<\/p>\n\n\n\n Ce que font d\u00e9j\u00e0 d\u2019autres pays<\/strong><\/p>\n\n\n\n Partout dans le monde, les gouvernements ont pris des mesures d\u00e9cisives pour faire face aux risques pos\u00e9s par les chatbots IA, en particulier pour les enfants et les jeunes. La loi sur l\u2019IA de l\u2019Union europ\u00e9enne<\/a> interdit explicitement les syst\u00e8mes qui d\u00e9ploient des techniques de manipulation ou exploitent les vuln\u00e9rabilit\u00e9s li\u00e9es \u00e0 l\u2019\u00e2ge. Le commissaire \u00e0 la s\u00e9curit\u00e9 en ligne de l\u2019Australie classe les chatbots IA parmi les technologies \u00e0 haut risque<\/a>, soumises \u00e0 des exigences de s\u00e9curit\u00e9 d\u00e8s la conception. Le projet de loi br\u00e9silien sur la protection num\u00e9rique des enfants<\/a> impose le retrait des contenus pr\u00e9judiciables et restreint les fonctionnalit\u00e9s qui encouragent la d\u00e9pendance comportementale.<\/p>\n\n\n\n Le Canada, en revanche, ne dispose d\u2019aucune \u00e9valuation obligatoire des risques avant le d\u00e9ploiement, d\u2019aucune norme de s\u00e9curit\u00e9 d\u00e8s la conception applicable, ni d\u2019aucune exigence de surveillance continue, malgr\u00e9 des cas document\u00e9s de chatbots offrant des conseils pr\u00e9judiciables li\u00e9s \u00e0 l\u2019automutilation, aux troubles alimentaires et \u00e0 la d\u00e9tresse \u00e9motionnelle. Alors que le gouvernement manifeste d\u00e9sormais son int\u00e9r\u00eat pour la r\u00e9glementation, il devrait avoir pleinement conscience de l\u2019ampleur du retard que nous avons accumul\u00e9.<\/p>\n\n\n\n Ce que demandent les jeunes Canadiens<\/strong><\/p>\n\n\n\n Les jeunes Canadiens, touch\u00e9s de mani\u00e8re disproportionn\u00e9e par ces technologies, r\u00e9clament une gouvernance plus proactive. Dans le cadre de Gen(Z)AI<\/a>, un processus d\u00e9lib\u00e9ratif national lanc\u00e9 en novembre 2025 men\u00e9 par des jeunes sous l\u2019\u00e9gide du Centre for Media, Technology, and Democracy<\/a> et du Dialogue on Technology Project<\/a>, des jeunes Canadiens \u00e2g\u00e9s de 17 \u00e0 23 ans ont \u00e9t\u00e9 r\u00e9unis pour examiner les risques et les lacunes en mati\u00e8re de gouvernance entourant les chatbots IA. Au cours de d\u00e9lib\u00e9rations structur\u00e9es, les participants ont identifi\u00e9 trois domaines de pr\u00e9judice interd\u00e9pendants<\/a>: la d\u00e9pendance relationnelle, les impacts cognitifs et les risques li\u00e9s au contenu. De ce travail a \u00e9merg\u00e9 un ensemble de recommandations politiques qui correspondent de mani\u00e8re remarquablement \u00e9troite aux meilleures pratiques internationales que le Canada n\u2019a pas encore adopt\u00e9es.<\/p>\n\n\n\n Les participants ont r\u00e9clam\u00e9 des contr\u00f4les obligatoires par l\u2019utilisateur sur la r\u00e9activit\u00e9 des chatbots et l\u2019intensit\u00e9 des conversations, reconnaissant que les choix de conception fa\u00e7onnent la d\u00e9pendance \u00e9motionnelle et les comportements. Ils ont propos\u00e9 la cr\u00e9ation d\u2019un organisme de r\u00e9glementation ind\u00e9pendant dot\u00e9 d\u2019un pouvoir d\u2019ex\u00e9cution, plut\u00f4t que de laisser la surveillance aux engagements volontaires de l\u2019industrie. Et ils ont soulign\u00e9 la n\u00e9cessit\u00e9 de mettre en place des r\u00e9gimes de mod\u00e9ration des contenus et des processus de suppression des donn\u00e9es.<\/p>\n\n\n\n Ce qui rend ces recommandations particuli\u00e8rement frappantes, c\u2019est leur convergence avec des mod\u00e8les r\u00e9glementaires \u00e9prouv\u00e9s d\u00e9j\u00e0 en vigueur ailleurs. Les appels en faveur de protections au niveau de la conception font \u00e9cho aux codes de conception adapt\u00e9s \u00e0 l\u2019\u00e2ge au Royaume-Uni<\/a> et \u00e0 ceux adopt\u00e9s en Californie<\/a> et dans d\u2019autres \u00c9tats am\u00e9ricains. Les demandes de surveillance ind\u00e9pendante refl\u00e8tent les architectures r\u00e9glementaires int\u00e9gr\u00e9es dans la loi sur les services num\u00e9riques<\/a> de l\u2019UE et le cadre eSafety de l\u2019Australie. La conclusion s\u2019impose: les solutions aux pr\u00e9judices caus\u00e9s par les chatbots IA<\/a> ne sont ni myst\u00e9rieuses ni techniquement irr\u00e9alisables. Elles existent et peuvent bien fonctionner, mais le bilan l\u00e9gislatif du Canada montre clairement que le gouvernement a maintes fois tergivers\u00e9 sur ce dossier.<\/p>\n\n\n\n Pourquoi le Canada continue de tergiverser<\/strong><\/p>\n\n\n\n Le projet de loi C-27, intitul\u00e9 Loi sur la protection de la vie priv\u00e9e des consommateurs<\/a>, aurait class\u00e9 les donn\u00e9es des enfants comme sensibles par d\u00e9faut et \u00e9tendu les protections aux informations d\u00e9duites, pr\u00e9cis\u00e9ment le type de garantie dont l\u2019IA conversationnelle a besoin. Mais le Parlement ne l’a pas adopt\u00e9. Le projet de loi C-63<\/a> (Loi sur les pr\u00e9judices en ligne) excluait explicitement les chatbots IA, alors que des pays comparables, comme l\u2019Australie, ont pris des mesures pour les r\u00e9glementer.<\/p>\n\n\n\n Aujourd\u2019hui, les pr\u00e9c\u00e9dentes tentatives du Canada visant \u00e0 \u00e9tablir des normes applicables n\u2019ont pas \u00e9t\u00e9 reprises par la nouvelle administration, en partie \u00e0 cause de l\u2019attention \u00e9troite que porte le gouvernement \u00e0 l\u2019innovation et \u00e0 l\u2019adoption de l\u2019IA<\/a>, ce qui a \u00e9t\u00e9 per\u00e7u comme allant \u00e0 l\u2019encontre de l\u2019\u00e9laboration d\u2019un programme r\u00e9glementaire pour l\u2019IA et les pr\u00e9judices en ligne.<\/p>\n\n\n\n Ce discours sur le statu quo sugg\u00e8re que la r\u00e9glementation de l\u2019IA p\u00e8se sur les entreprises, freine les investissements et c\u00e8de du terrain concurrentiel \u00e0 d\u2019autres juridictions. Mais ce cadre d\u2019analyse interpr\u00e8te mal \u00e0 la fois les faits et le contexte actuel. La s\u00e9curit\u00e9 r\u00e9glementaire peut r\u00e9duire les risques juridiques et de r\u00e9putation pour les entreprises qui se d\u00e9veloppent \u00e0 grande \u00e9chelle, et les exigences de s\u00e9curit\u00e9 int\u00e9gr\u00e9e peuvent \u00e9galement favoriser une meilleure ing\u00e9nierie. Le v\u00e9ritable handicap concurrentiel r\u00e9side dans la cr\u00e9ation de syst\u00e8mes et de produits d\u2019IA qui nuisent aux jeunes utilisateurs sans aucune mesure permettant de tenir ces syst\u00e8mes, ainsi que les entreprises qui les d\u00e9veloppent et les d\u00e9ploient, pour responsables. Ce n\u2019est pas un v\u00e9ritable \u00e9cosyst\u00e8me d\u2019innovation ; c\u2019est un risque qui ne demande qu\u2019\u00e0 se concr\u00e9tiser, et les populations qui en supportent le risque en attendant ne sont pas des actionnaires, ce sont des enfants.<\/p>\n\n\n\n Trois points que les d\u00e9cideurs politiques doivent clarifier<\/strong><\/p>\n\n\n\n Les d\u00e9cideurs politiques devraient r\u00e9fl\u00e9chir \u00e0 trois points alors qu\u2019ils travaillent \u00e0 la prochaine version du portefeuille canadien sur les pr\u00e9judices en ligne et la gouvernance de l\u2019IA. Le premier est le champ d\u2019application. Une l\u00e9gislation sur les pr\u00e9judices en ligne qui n\u2019inclut pas explicitement les chatbots IA dans son champ d\u2019application n\u2019est pas adapt\u00e9e \u00e0 la situation actuelle. Au Royaume-Uni, l\u2019Ofcom explore d\u00e9j\u00e0 une l\u00e9gislation secondaire pour combler les lacunes de la loi britannique sur la s\u00e9curit\u00e9 en ligne<\/a> concernant les chatbots, et le commissaire australien \u00e0 la s\u00e9curit\u00e9 en ligne a enregistr\u00e9 des codes de conduite sectoriels qui imposent explicitement des obligations de s\u00e9curit\u00e9 aux d\u00e9veloppeurs de chatbots<\/a>. Le Canada ne peut pas pr\u00e9senter un cadre qui soit en retard par rapport \u00e0 ses homologues internationaux au moment de son adoption.<\/p>\n\n\n\n Le deuxi\u00e8me est la responsabilit\u00e9 en mati\u00e8re de conception. Le passage de la mod\u00e9ration des contenus \u00e0 une r\u00e9glementation en amont de la conception fait la diff\u00e9rence entre un r\u00e9gime \u00e0 l\u2019\u00e9preuve du temps et un r\u00e9gime qui ne l\u2019est pas. Les obligations de \u00ab s\u00e9curit\u00e9 d\u00e8s la conception \u00bb et de conception adapt\u00e9e \u00e0 l\u2019\u00e2ge, impos\u00e9es comme conditions pr\u00e9alables au d\u00e9ploiement plut\u00f4t que comme r\u00e9ponses a posteriori aux pr\u00e9judices, sont ce qu\u2019exigent les donn\u00e9es factuelles. Les donn\u00e9es personnelles des enfants doivent \u00eatre class\u00e9es par d\u00e9faut comme sensibles, avec des protections \u00e9tendues aux donn\u00e9es d\u00e9duites et d\u00e9riv\u00e9es. Ces obligations sont techniquement applicables gr\u00e2ce \u00e0 des limites obligatoires sur la persistance conversationnelle, des contr\u00f4les r\u00e9glables par l\u2019utilisateur sur les fonctionnalit\u00e9s de miroir \u00e9motionnel, et des m\u00e9canismes de limitation de la finalit\u00e9 qui emp\u00eachent que les donn\u00e9es d\u2019interaction des enfants soient recycl\u00e9es dans des pipelines d\u2019entra\u00eenement.<\/p>\n\n\n\n Le troisi\u00e8me est une capacit\u00e9 institutionnelle ind\u00e9pendante. Les donn\u00e9es d\u2019une r\u00e9cente enqu\u00eate men\u00e9e par le Dialogue on Technology Project<\/a> de l\u2019Universit\u00e9 Simon Fraser montrent clairement que les Canadiens se m\u00e9fient tant des entreprises technologiques que des gouvernements quant \u00e0 leur capacit\u00e9 \u00e0 g\u00e9rer l\u2019IA de mani\u00e8re responsable. Une architecture r\u00e9glementaire cr\u00e9dible doit inclure un organisme ind\u00e9pendant habilit\u00e9 \u00e0 exiger l\u2019acc\u00e8s aux donn\u00e9es, \u00e0 mener des audits algorithmiques et \u00e0 faire respecter la conformit\u00e9. Sans une telle capacit\u00e9, les obligations sur le papier n\u2019auront aucun poids r\u00e9el.<\/p>\n\n\n\n