Alors que les institutions financières renforcent leur recours à l’IA, l’Union européenne affine les cadres de gouvernance, de responsabilité et de protection des données pour assurer la sécurité des marchés et la protection des consommateurs. Peter Kerstens, conseiller à la Commission européenne, présente les principes qui guident un déploiement responsable de l’IA dans ce secteur.

L’essor de l’intelligence artificielle en tant qu’infrastructure commerciale critique a surpris de nombreuses organisations, qui ont développé des systèmes sans gestion appropriée. L’ISO 42001 émerge comme une norme essentielle, car la gouvernance de l’IA nécessite des approches et des considérations de risque différentes de celles de la gouvernance logicielle traditionnelle.

L’Acte sur l’intelligence artificielle marque une avancée majeure pour réglementer l’IA, en répondant aux risques liés à son usage croissant et en imposant des obligations aux opérateurs, notamment en classant la criminalistique comme un domaine à haut risque.

L’introduction des publicités dans les grands modèles linguistiques (LLM) tels que ChatGPT soulève des préoccupations éthiques et juridiques majeures, notamment les risques accrus de manipulation des consommateurs via l’exploitation de leurs vulnérabilités émotionnelles.

Les entreprises britanniques affichent une confiance élevée quant à leur préparation pour l’AI Act de l’UE, mais elles subissent davantage d’amendes et de perturbations contractuelles que leurs homologues en Allemagne et en France, selon une étude révélant que 30 % des répondants britanniques ont signalé des sanctions liées à des changements réglementaires au cours de la dernière année.

Les règles numériques de l’Union européenne, telles que le Digital Omnibus et la loi sur l’IA, ont un impact mondial en redéfinissant les attentes en matière de gouvernance numérique. Même les entreprises sans présence en Europe adoptent souvent des pratiques conformes à l’UE en raison des exigences de clients, partenaires et régulateurs.

La Commission européenne a proposé plusieurs amendements à l’Acte sur l’IA de l’UE pour assurer une mise en œuvre efficace et proportionnée. Parmi les principales modifications figurent le report de la date limite de conformité pour les obligations liées aux IA à haut risque et la suppression des exigences de littératie en IA pour les fournisseurs et déployeurs.

L’Acte sur l’IA de l’Union européenne soulève un débat sur l’équilibre à trouver entre protection des consommateurs et innovation industrielle face aux approches divergentes des États-Unis et de la Chine.

Cet article propose un cadre de vérification pour aider à la mise en œuvre de l’AI Act de l’UE, visant à réduire l’incertitude interprétative en organisant la vérification de la conformité selon deux dimensions fondamentales : le type de méthode et l’objet d’évaluation. Le cadre établit une communication efficace entre décideurs et praticiens, tout en alignant les exigences légales avec les normes techniques et les meilleures pratiques.

L’utilisation de l’IA dans les processus RH pose des défis majeurs pour les employeurs en Europe, avec la mise en place progressive de la loi sur l’IA. Les systèmes à haut risque affectant les conditions d’emploi doivent respecter des obligations strictes, notamment en matière de transparence, de gestion des risques et de supervision humaine.