La confiance n’est pas une stratégie : pourquoi le Canada doit encadrer les décisions en matière d’IA, et pas seulement les données

À l’échelle mondiale, les débats sur la gouvernance de l’IA connaissent une évolution notable. Alors que les politiques en matière d’IA ont longtemps été axées sur la compétitivité, les gouvernements reconnaissent de plus en plus que l’adoption généralisée de cette technologie dépend de la confiance du public. En conséquence, la confiance est devenue un thème central des débats sur la gouvernance contemporaine de l’IA.

La stratégie canadienne en matière d’IA, récemment publiée, reflète cette tendance générale. Lancée le 4 juin 2026, « L’IA pour tous » vise à accélérer l’adoption de l’IA dans l’ensemble de l’économie tout en soulignant l’importance d’un déploiement responsable et de la confiance du public. Avant sa publication, le ministre de l’Intelligence artificielle et de l’Innovation numérique, Evan Solomon, a qualifié la confiance de « absolument vitale » pour le programme du gouvernement en matière d’IA, soulignant ainsi l’idée, de plus en plus répandue, selon laquelle la confiance du public est essentielle à une adoption généralisée.

L’Union européenne a été à l’avant-garde de cette évolution, plaçant la confiance au cœur de la loi sur l’IA par des exigences de transparence, de responsabilité, de supervision humaine et de gestion des risques. De même, les principes de l’OCDE en matière d’IA et le processus du G7 sur l’IA à Hiroshima ont progressivement fait de l’IA digne de confiance un objectif de gouvernance. Ensemble, ces évolutions reflètent une prise de conscience croissante que l’adoption généralisée de l’IA ne dépend pas uniquement des capacités technologiques et des opportunités économiques. Elle dépend également de la confiance du public dans les institutions qui en régissent l’utilisation.

Pourtant, ce consensus émergent laisse une question importante en suspens : qu’est-ce qui engendre la confiance dans la pratique ? Cette question revêt une importance particulière au Canada. Pour rendre l’IA omniprésente, il ne suffit pas d’encourager son adoption ; il faut également mettre en place des garanties significatives, des mécanismes de contrôle et des voies de responsabilisation. La réponse réside dans l’élargissement de la gouvernance au-delà des données utilisées par les systèmes d’IA, afin d’y inclure les décisions, les évaluations et les recommandations qu’ils contribuent à produire.

Plus largement, cela reflète une transition de la gouvernance des données vers la gouvernance des décisions. Alors que la gouvernance des données se concentre sur la manière dont les informations sont collectées, stockées et utilisées, la gouvernance des décisions porte sur la façon dont les décisions, recommandations et classifications assistées par l’IA façonnent les décisions qui affectent les individus. Elle s’interroge sur la transparence, l’explicabilité, la contestabilité de ces décisions, ainsi que sur leur soumission à un contrôle humain significatif.

De la protection des données à la gouvernance des décisions

Les cadres juridiques relatifs à la vie privée et au droit d’auteur traitent de différents aspects de la gouvernance de l’IA. Le droit à la vie privée régit la collecte, la conservation et l’utilisation des données à caractère personnel, tandis que le droit d’auteur réglemente l’accès aux œuvres créatives et leur reproduction. Pourtant, ces deux domaines s’attachent principalement à régir l’accès à l’information. Bien que ces questions restent importantes, elles ne répondent pas pleinement aux défis de gouvernance qui émergent lorsque les systèmes d’IA influencent des décisions concernant les individus.

Cette évolution a des implications importantes sur la manière dont la confiance est perçue. Les préoccupations relatives au consentement, à la protection des données et à la propriété intellectuelle restent importantes, mais elles ne répondent qu’à une partie du défi de la gouvernance. Les questions de transparence, d’explicabilité, de responsabilité, de contrôle et de recours prennent de plus en plus d’importance lorsque les systèmes d’IA influencent des décisions en matière d’emploi, de crédit, d’assurance, d’éducation, de santé et d’accès aux services publics.

Approches européennes et canadiennes de la gouvernance de l’IA

La question est donc de savoir comment les gouvernements ont répondu à ces nouveaux défis de gouvernance. Dès 2019, l’Union européenne considérait l’IA comme une technologie décisionnelle dont les impacts sociétaux nécessitent une gouvernance allant au-delà de la protection traditionnelle des données.

Si la vie privée reste une pierre angulaire de la politique numérique européenne, le cadre réglementaire de l’UE s’est étendu au-delà de la protection traditionnelle des données. Il aborde de plus en plus les conséquences de la prise de décision algorithmique par le biais d’exigences en matière de transparence, de responsabilité, de contrôle humain et de gestion des risques. Plutôt que de traiter l’IA principalement comme une question de gouvernance des données, la loi européenne sur l’IA vise à relever certains des défis institutionnels et de gouvernance soulevés par la prise de décision fondée sur l’IA.

Au Canada, les discussions sur la politique en matière d’IA ont historiquement suivi une trajectoire différente. Les débats ont eu tendance à se concentrer sur la protection de la vie privée, la propriété intellectuelle, la politique d’innovation et la compétitivité économique. Ces questions restent importantes, d’autant plus que les gouvernements cherchent à trouver un équilibre entre l’adoption de l’IA, la souveraineté numérique et la croissance économique. Par rapport aux débats politiques européens, cependant, une attention moindre a été accordée aux garanties institutionnelles nécessaires pour superviser la manière dont les résultats et les recommandations de l’IA sont utilisés dans la pratique. À mesure que les systèmes d’IA s’intègrent dans les lieux de travail, les services financiers, les soins de santé et l’administration publique, ces questions de gouvernance deviennent de plus en plus difficiles à ignorer. En conséquence, les débats sur la politique canadienne en matière d’IA ont souvent mis davantage l’accent sur l’innovation et la compétitivité économique que sur les questions de transparence, de responsabilité, de contrôle humain et de contestabilité.

Au-delà de la surveillance : réguler la gestion algorithmique

Le lieu de travail illustre utilement les défis de gouvernance posés par la prise de décision assistée par l’IA.

Une grande partie du débat public autour des technologies de gestion algorithmique porte sur la collecte d’informations relatives au comportement des travailleurs, à leur productivité, à leur localisation et à leurs activités sur le lieu de travail. Ces préoccupations sont importantes, en particulier lorsque la surveillance est étendue ou intrusive. Pourtant, elles ne reflètent qu’une partie du défi posé par les systèmes de gestion basés sur l’IA.

De plus en plus, les données relatives au lieu de travail sont utilisées non seulement pour enregistrer l’activité des employés, mais aussi pour évaluer, classer et gérer les travailleurs. Dans des secteurs tels que la logistique, l’entreposage, les services de VTC et le travail sur plateforme, les systèmes algorithmiques sont utilisés pour générer des scores de productivité, évaluer les performances, attribuer des tâches, recommander des mesures disciplinaires et identifier les risques opérationnels perçus. Les salariés peuvent comprendre que des données sont collectées tout en n’ayant qu’une visibilité limitée sur la manière dont les évaluations sont établies ou sur la façon dont elles influencent les décisions de la direction. Ils peuvent également avoir une capacité limitée à déterminer si ces évaluations reflètent fidèlement les réalités du lieu de travail. Des technologies similaires font de plus en plus leur apparition dans les secteurs canadiens de la logistique, du commerce de détail et du travail sur plateforme, ce qui rend ces enjeux de gouvernance de plus en plus pertinents à l’échelle nationale.

Des études européennes ont mis en évidence toute une série de risques psychosociaux associés aux systèmes de gestion algorithmiques, notamment l’intensification du travail, la réduction de l’autonomie, l’augmentation du stress et la pression constante liée à la performance. Les chercheurs et les décideurs politiques ont également exprimé leurs inquiétudes quant aux possibilités limitées dont disposent souvent les travailleurs pour comprendre, contester ou participer aux décisions façonnées par les systèmes de gestion algorithmique.

En réponse, les décideurs politiques européens cherchent de plus en plus à renforcer la protection des travailleurs dans les lieux de travail gérés par des algorithmes. La directive européenne sur le travail sur les plateformes, par exemple, introduit de nouvelles exigences régissant les systèmes automatisés de surveillance et de prise de décision. Elle offre en outre aux travailleurs la possibilité d’obtenir des explications sur les décisions importantes et de demander un réexamen par un être humain dans certaines circonstances. Ces mesures s’inscrivent dans un effort plus large visant à garantir que les systèmes de gestion algorithmique restent soumis à un contrôle plutôt que de fonctionner comme des mécanismes opaques de contrôle du lieu de travail.

Les enjeux soulevés par la gestion algorithmique dépassent largement le cadre du lieu de travail. Alors que les systèmes d’IA influencent de plus en plus les secteurs de l’assurance, de l’éducation, des soins de santé et des services publics, l’attention se porte de plus en plus sur les garanties institutionnelles nécessaires pour superviser l’usage des décisions fondées sur l’IA en pratique.

Créer les conditions propices à la confiance

Le défi auquel sont confrontés les décideurs politiques ne consiste donc pas simplement à accélérer l’adoption de l’IA, mais à créer les conditions dans lesquelles les systèmes d’IA peuvent être considérés comme légitimes et dignes de confiance. Des initiatives européennes récentes, notamment la loi sur l’IA et la directive sur le travail sur les plateformes, suggèrent que cela nécessite davantage que des normes techniques ou la simple conformité réglementaire. Cela nécessite des cadres de gouvernance qui imposent des obligations aux organisations déployant des systèmes d’IA, établissent des mécanismes de contrôle et de contestation par des humains, et dotent les institutions publiques de l’autorité nécessaire pour surveiller, enquêter et réagir face à des conséquences préjudiciables.

Pour le Canada, cela signifie aller au-delà d’une approche étroite axée sur la gouvernance des données et développer des mécanismes régissant la manière dont les évaluations et les recommandations générées par l’IA sont utilisées dans la pratique. Au minimum, une gouvernance efficace de l’IA exige que les personnes concernées par des décisions importantes fondées sur l’IA soient informées lorsqu’un système d’IA est utilisé. Elle nécessite des explications claires sur la manière dont les décisions sont prises, ainsi que des mécanismes accessibles permettant de réexaminer ou de contester les résultats. Les organisations déployant l’IA dans des contextes à fort impact devraient être tenues d’évaluer et d’atténuer les risques, de documenter les processus décisionnels et de maintenir un contrôle humain lorsque des droits ou des intérêts importants sont en jeu.

La confiance ne peut être assurée par de simples objectifs d’adoption. Alors que la stratégie canadienne en matière d’IA vise à porter le taux d’adoption de l’IA par les entreprises de 12 % à 60 % d’ici 2034, la confiance dans l’IA dépend en fin de compte de la capacité des institutions à superviser l’utilisation des systèmes d’IA, à remédier aux conséquences néfastes et à offrir des voies de recours et de révision efficaces. Si le Canada entend intégrer l’IA dans l’ensemble de l’économie, la gouvernance doit se développer parallèlement au déploiement. La confiance ne naît ni d’objectifs d’adoption ni de principes volontaires. Elle se mérite grâce à des institutions capables d’expliquer, de superviser et de corriger les décisions que l’IA contribue de plus en plus à prendre.