Le Canada veut une IA souveraine. Mais souveraine pour qui ?

Le Canada s’intéresse soudainement de très près à la souveraineté. Ce terme revient sans cesse dans les discussions sur l’intelligence artificielle : IA souveraine, calcul souverain, infrastructure cloud souveraine et données souveraines.

La nouvelle stratégie nationale canadienne en matière d’intelligence artificielle, « AI for All », fait de la souveraineté une priorité centrale. Elle préconise le développement des capacités canadiennes en matière de calcul, de données, de talents et d’infrastructures, alors que le pays cherche à exercer un contrôle accru sur les systèmes technologiques dont il dépend de plus en plus.

Ce sont là des débats importants. Mais les questions qu’ils sous-tendent ne sont pas nouvelles.

Une vieille question dans un nouveau contexte

À qui appartiennent les informations ? Qui les contrôle ? Qui détermine où elles sont stockées, comment elles peuvent être utilisées, qui peut y accéder et ce qui advient lorsqu’elles ne répondent plus à leur objectif initial ?

Les Premières Nations posent des variantes de ces questions depuis des décennies. Les Principes des Premières Nations relatifs à l’OCAP® (propriété, contrôle, accès et possession) sont issus d’une histoire où les informations concernant les peuples et les communautés des Premières Nations étaient trop souvent collectées, interprétées, stockées et diffusées par des institutions extérieures à ces communautés, sans que les Premières Nations n’exercent une autorité réelle sur ce qu’il en adviendrait par la suite.

L’OCAP® a changé la donne. Au lieu de se demander uniquement si les informations ont été collectées de manière éthique, il s’agit de se demander qui détient l’autorité sur ces informations. Cette distinction revêt une importance capitale à l’ère de l’intelligence artificielle.

Un cadre propre aux Premières Nations, et non un cadre universel

Il est également important d’être précis. L’OCAP® est spécifiquement un cadre propre aux Premières Nations. Il ne se substitue pas aux lois, aux traditions de gouvernance et aux approches distinctes en matière de souveraineté des données des Inuits ou des Métis, pas plus qu’il n’efface les lois, protocoles et traditions de gouvernance propres à chaque Première Nation. Même au sein des Premières Nations, son application n’est pas uniforme. Le Centre de gouvernance de l’information des Premières Nations souligne que les Nations affirment ces principes en fonction de leurs propres visions du monde, de leurs savoirs traditionnels et de leurs protocoles.

Cette distinction ne constitue pas une limitation du cadre. Elle fait partie intégrante de son objectif.

La souveraineté ne signifie pas appliquer un seul modèle partout. Elle signifie avoir l’autorité de déterminer en priorité le modèle.

Le consentement à la collecte n’est pas le consentement à l’entraînement.

Une grande partie du débat public sur l’IA responsable s’articule autour d’idées familières : vie privée, cybersécurité, transparence, biais et consentement. Toutes ces questions sont importantes. Mais l’intelligence artificielle complique la compréhension du consentement au fil du temps.

Prenons l’exemple des informations fournies dans le cadre d’une étude de santé communautaire. Des enregistrements réalisés dans le cadre d’une initiative de revitalisation linguistique. Des témoignages oraux conservés dans des archives. Des récits partagés dans le cadre de recherches universitaires. Des informations fournies à un gouvernement afin que les citoyens puissent bénéficier de programmes ou de services.

L’autorisation accordée à ces fins ne constitue pas automatiquement une autorisation d’utiliser ces mêmes informations pour entraîner un système d’IA.

Les informations numériques peuvent sembler réutilisables à l’infini. La gouvernance nous rappelle qu’elles ne sont pas disponibles à l’infini.

Une fois les informations numérisées, il est facile de les copier. La combinaison de jeux de données est techniquement possible à très grande échelle. Les informations collectées à un but précis peuvent devenir utiles à un autre usage qui n’existait peut-être même pas au moment de leur collecte initiale.

L’IA accentue ce problème. Les informations ne se trouvent plus nécessairement uniquement dans une base de données. Une fois utilisées dans le développement de l’IA, elles peuvent façonner des systèmes qui génèrent du langage, des images, des classifications, des prédictions et des représentations bien après leur collecte initiale. Les conséquences d’une utilisation secondaire peuvent donc devenir plus difficiles à percevoir et potentiellement à inverser.

Lorsque la technologie évolue, le consentement initial suit-il les données ?

Ce qu’exigent les quatre principes

OCAP® nous offre un moyen utile de comprendre pourquoi la réponse ne peut pas être simplement présumée.

• La propriété porte sur la relation entre les Premières Nations et leurs connaissances culturelles collectives, leurs données et leurs informations.
• Le contrôle concerne l’autorité des Premières Nations sur les processus de recherche et de gestion de l’information qui les concernent, depuis la planification et la collecte jusqu’à la gestion et l’utilisation.
• L’accès signifie que les Premières Nations doivent pouvoir accéder aux informations et aux données les concernant, ainsi qu’à celles de leurs communautés, quel que soit l’endroit où elles sont conservées. Cela inclut également le droit des communautés et des organisations des Premières Nations de gérer et de prendre des décisions concernant l’accès à leurs informations collectives.
• La possession rend le débat concret. Alors que la propriété décrit la relation entre un peuple et ses informations, la possession concerne le contrôle physique des données, mécanisme par lequel la propriété peut être revendiquée et protégée.

Ce dernier principe pourrait prendre une importance croissante à l’ère de l’IA.

Où réside la souveraineté ?

L’approche émergente du Canada en matière d’IA reconnaît l’importance des infrastructures. La stratégie nationale sur l’IA du gouvernement fédéral affirme que la souveraineté à l’ère de l’IA dépend de la puissance de calcul, du cloud et de la connectivité, des données qui alimentent les systèmes d’IA, ainsi que des personnes qui les développent et les régissent. Elle reconnaît également la dépendance actuelle du Canada à l’égard des plateformes cloud et des infrastructures étrangères.

Il existe ici un parallèle important. Si le Canada considère que le contrôle des infrastructures technologiques est pertinent pour sa propre souveraineté numérique, que signifie le contrôle des infrastructures lorsqu’on parle de la souveraineté des Premières Nations en matière de données ?

Ce parallèle n’implique pas une équivalence. La souveraineté numérique canadienne et la souveraineté des Premières Nations en matière de données découlent de relations politiques, juridiques et historiques distinctes. La souveraineté des Premières Nations ne peut se réduire à une simple variante des préoccupations du Canada relatives aux infrastructures cloud détenues par des entités étrangères.

Mais les deux mettent en évidence une limite à considérer la gouvernance des données comme une simple question de vie privée ou de sécurité. Le contrôle est essentiel.

La forme que prendra un contrôle significatif dépendra de chaque Nation. Pour une Nation, la possession pourrait signifier des serveurs contrôlés par la communauté. Pour une autre, cela pourrait signifier un centre de données régional géré par des communautés autochtones. D’autres pourraient opter pour des partenariats de confiance, des systèmes fédérés ou des services cloud commerciaux régis par des accords soigneusement négociés.

La question importante n’est pas de savoir si chaque nation construit la même infrastructure. Il s’agit de savoir si les nations disposent d’une autorité réelle pour déterminer quel dispositif leur convient. Cela inclut le pouvoir de décider que certaines informations ne doivent en aucun cas être intégrées à un système d’intelligence artificielle.

L’instinct technologique consiste souvent à se demander comment rendre l’information plus accessible, interopérable et utile. La gouvernance des données autochtones soulève une autre question légitime :

Faut-il vraiment en arriver là ?

Toutes les connaissances ne gagnent pas en valeur lorsqu’elles deviennent plus accessibles. Tout ce qui peut servir de données d’entraînement ne doit pas nécessairement en devenir.

La représentation n’est pas synonyme d’autorité

On reconnaît de plus en plus que les peuples autochtones devraient être représentés dans les débats sur l’intelligence artificielle. La représentation est importante. Il en va de même pour la lutte contre les systèmes d’IA qui reproduisent des stéréotypes, méconnaissent les histoires autochtones, gomment les distinctions entre les nations ou génèrent des représentations inexactes des langues, des cultures et des savoirs autochtones.

Mais la représentation ne peut se substituer à la gouvernance. Un système pourrait devenir exceptionnellement performant pour générer du contenu sur les peuples autochtones, alors même que ces derniers n’exercent qu’une très faible autorité sur les informations qui ont contribué à cette capacité.

En effet, plus ces technologies deviennent performantes pour générer ou reproduire du matériel culturel, la langue et les savoirs, plus les questions de gouvernance s’avèrent urgentes.

Des questions auxquelles la technologie ne peut répondre d’elle-même

Qui a autorisé que ces informations deviennent du matériel d’entraînement ?

Les personnes qui les ont partagées ont-elles été informées de cette utilisation future potentielle ?

Que se passe-t-il lorsque des informations initialement partagées dans le cadre d’une relation donnée sont transférées vers une autre relation ?

Le consentement peut-il être retiré ?

Une nation peut-elle fixer des conditions qui s’appliquent aux informations au-delà de l’institution qui les a initialement collectées ?

Certaines connaissances peuvent-elles rester accessibles à des fins communautaires tout en étant inaccessibles au développement commercial de l’IA ?

Qui en tire un bénéfice économique lorsque des informations culturellement spécifiques contribuent à des technologies de grande valeur ?

Et qui assume la responsabilité lorsque ces technologies interprètent mal ces connaissances, non seulement pour les conséquences subies aujourd’hui, mais aussi pour ce que ces décisions laisseront aux générations futures ?

Pour les peuples Haudenosaunee, cette responsabilité s’inscrit dans une perspective à plus long terme. Penser sept générations plus loin nous invite à regarder au-delà des avantages technologiques immédiats pour nous concentrer sur les relations avec le savoir, l’autorité et la responsabilité que nos décisions créent pour ceux qui en hériteront.

Il ne s’agit pas simplement de questions techniques. Ce sont des questions d’autorité, de relations et de responsabilité.

Il existe une différence importante entre se demander comment les peuples autochtones peuvent être mieux représentés au sein de l’intelligence artificielle et se demander ce que la gouvernance autochtone exige de l’intelligence artificielle. La première question porte généralement sur la technologie. La seconde partie concerne les personnes dont les informations, les savoirs et les relations peuvent être affectés par celle-ci.

Cela change le point de départ de la discussion.

Avant le modèle

Trop souvent, le débat sur l’IA responsable commence alors que l’architecture est déjà en place. Un modèle existe. Un ensemble de données a été constitué. Une plateforme a été déployée. C’est alors que l’on se demande comment rendre le tout éthique.

Comment réduire les biais ? Comment rendre le système plus représentatif ? Comment consulter les communautés concernées ? Comment mettre en place des garde-fous autour de ce qui a déjà été construit ?

Ce sont là des questions pertinentes, mais la gouvernance des données des Premières Nations nous invite à avancer le moment de la gouvernance : avant que le modèle n’existe, avant que les données ne soient collectées, avant qu’une archive ne soit numérisée, avant qu’un chercheur ne télécharge un ensemble de données, avant que des documents d’importance culturelle ne deviennent lisibles par machine, avant que quelqu’un ne coche une case intitulée « J’accepte », et avant que les savoirs autochtones ne deviennent une ressource de plus alimentant la prochaine révolution technologique.

C’est là que l’OCAP® apporte une contribution importante aux débats actuels sur l’intelligence artificielle. Il ne s’agit pas d’une spécification technique. Ni d’un cadre universel autochtone pour l’IA. Ni une liste de contrôle à ajouter à une évaluation éthique de l’IA une fois le développement déjà en cours. Il propose un point de départ différent : la relation entre les peuples et leurs informations, ainsi que l’autorité qui devrait l’accompagner.

Le Centre de gouvernance de l’information des Premières Nations décrit la possession comme le mécanisme par lequel la propriété peut être revendiquée et protégée. Cette idée prend toute son importance lorsque l’infrastructure hébergeant les données, et les systèmes qui en tirent des enseignements, peuvent être détenus et exploités bien au-delà de la Nation elle-même. L’IA redonne donc toute son urgence à une vieille question de gouvernance : qui a l’autorité de décider de la suite des événements ?

Le Canada investit massivement dans l’idée que la souveraineté constitue un enjeu majeur en matière d’intelligence artificielle. L’OCAP® nous rappelle que la souveraineté ne peut se réduire à l’emplacement des serveurs ou à l’identité du propriétaire de l’entreprise qui les exploite.

Elle concerne également les relations entre les personnes et l’information : qui peut donner son accord, qui peut fixer les conditions, qui peut les modifier et, surtout, qui conserve le pouvoir de dire non. Alors que les gouvernements, les universités et les entreprises technologiques se précipitent pour définir ce qu’est une IA responsable, la gouvernance des données des Premières Nations nous invite à adopter un autre point de vue : et si la souveraineté précédait la technologie ?

---

Note de la rédaction : À l’occasion de la Journée nationale de la vérité et de la réconciliation, consultez la déclaration du Conseil international du Canada sur la réconciliation avec les Premières Nations, les Métis et les Inuits pour en savoir plus sur l’engagement du CIC en faveur de la réconciliation.