Cet article explore les défis de la gouvernance et de la responsabilité liés à l’utilisation de l’intelligence artificielle (IA) dans les entreprises, en mettant en lumière le cadre juridique canadien actuel et l’importance de contrats appropriés avec les fournisseurs d’IA.

À l’approche du Sommet sur l’Impact de l’IA en Inde en février, il est évident que la plupart des pays manquent encore d’un modèle viable pour gouverner cette technologie. Un nouveau cadre doit intégrer transparence, consentement et responsabilité dans l’architecture numérique pour permettre une gouvernance efficace de l’IA.

Alors que les institutions financières renforcent leur recours à l’IA, l’Union européenne affine les cadres de gouvernance, de responsabilité et de protection des données pour assurer la sécurité des marchés et la protection des consommateurs. Peter Kerstens, conseiller à la Commission européenne, présente les principes qui guident un déploiement responsable de l’IA dans ce secteur.

L’essor de l’intelligence artificielle en tant qu’infrastructure commerciale critique a surpris de nombreuses organisations, qui ont développé des systèmes sans gestion appropriée. L’ISO 42001 émerge comme une norme essentielle, car la gouvernance de l’IA nécessite des approches et des considérations de risque différentes de celles de la gouvernance logicielle traditionnelle.

L’Acte sur l’intelligence artificielle marque une avancée majeure pour réglementer l’IA, en répondant aux risques liés à son usage croissant et en imposant des obligations aux opérateurs, notamment en classant la criminalistique comme un domaine à haut risque.

L’introduction des publicités dans les grands modèles linguistiques (LLM) tels que ChatGPT soulève des préoccupations éthiques et juridiques majeures, notamment les risques accrus de manipulation des consommateurs via l’exploitation de leurs vulnérabilités émotionnelles.

Les entreprises britanniques affichent une confiance élevée quant à leur préparation pour l’AI Act de l’UE, mais elles subissent davantage d’amendes et de perturbations contractuelles que leurs homologues en Allemagne et en France, selon une étude révélant que 30 % des répondants britanniques ont signalé des sanctions liées à des changements réglementaires au cours de la dernière année.

Les règles numériques de l’Union européenne, telles que le Digital Omnibus et la loi sur l’IA, ont un impact mondial en redéfinissant les attentes en matière de gouvernance numérique. Même les entreprises sans présence en Europe adoptent souvent des pratiques conformes à l’UE en raison des exigences de clients, partenaires et régulateurs.

La Commission européenne a proposé plusieurs amendements à l’Acte sur l’IA de l’UE pour assurer une mise en œuvre efficace et proportionnée. Parmi les principales modifications figurent le report de la date limite de conformité pour les obligations liées aux IA à haut risque et la suppression des exigences de littératie en IA pour les fournisseurs et déployeurs.

L’Acte sur l’IA de l’Union européenne soulève un débat sur l’équilibre à trouver entre protection des consommateurs et innovation industrielle face aux approches divergentes des États-Unis et de la Chine.