Le fossé de confiance est réel
Introduction
Les députés fédéraux canadiens s’efforcent de réglementer l’intelligence artificielle (IA), pesant ses menaces sur l’emploi, la cybersécurité et la souveraineté des données, tout en considérant ses promesses économiques.
Étude sur la réglementation de l’IA
Le Comité permanent de l’industrie et de la technologie a lancé une étude à la demande du Bloc Québécois pour examiner comment réguler l’IA, en tenant compte de nombreux enjeux importants.
Problématiques clés
- Défi scientifique : assurer l’honnêteté des modèles d’IA.
- Souveraineté des données : questions légales et physiques.
- Multilatéralisme politique : la nécessité d’une coopération internationale.
- Création d’un comité dédié à l’IA : une proposition bien accueillie par les experts.
Consultation publique insuffisante
Colin Bennett, professeur émérite à l’Université de Victoria, a souligné lors de la réunion que le développement des politiques souffrait d’un manque de consultation publique. “Le fossé de confiance est réel et doit être comblé”, a-t-il déclaré.
Une étude de KPMG a révélé que 50 % des Canadiens approuvent l’utilisation de l’IA, mais près de 80 % s’inquiètent des résultats négatifs potentiels. Environ 75 % estiment qu’une régulation de l’IA est nécessaire.
Rapport “Ce que nous avons entendu”
Le rapport produit par le ministère canadien de l’IA, qui a utilisé l’IA pour trier les réponses, a été critiqué. Michael Geist, titulaire de la Chaire de recherche du Canada en droit de l’internet et du commerce électronique, a déclaré que cela ressemblait plus à ce que le ministère voulait que le public pense avoir entendu.
Assemblées citoyennes
Bennett et le professeur Yoshua Bengio de l’Université de Montréal ont recommandé que le gouvernement utilise des assemblées citoyennes pour recueillir des retours d’expérience des Canadiens, qui sont les plus exposés aux impacts des décisions concernant l’IA.
Souveraineté canadienne sur les données
Il a été largement discuté d’assurer la souveraineté canadienne sur les données. Selon Geist, la création de lois sur la vie privée solides est la solution. Il a averti que de petites entreprises canadiennes n’ont pas la capacité de fournir des services à l’échelle requise, ce qui pose un risque pour la protection des données canadiennes.
IA autonome et scepticisme
Les systèmes d’IA “autonomes” ont suscité beaucoup d’attention. Bengio a expliqué que ces IA “ne sont pas fiables et dignes de confiance” car elles imitent les comportements humains. “Une bonne dose de scepticisme est nécessaire”, a déclaré Bennett.
Enquête du Commissaire à la vie privée
Le Bureau du Commissaire à la vie privée enquête déjà sur ChatGPT pour l’utilisation non consensuelle des données personnelles canadiennes, ainsi que sur d’autres technologies d’IA.
Conclusion
Le Canada doit devenir un leader en matière d’IA sûre et compétente pour s’assurer qu’il soit à la table des décisions et non sur le menu. Bengio souligne que le Canada devrait travailler à créer des directives en matière d’IA avec des “pays intermédiaires” partageant nos préoccupations et nos valeurs.