Red Hat a lancé le projet open source Asago, destiné à automatiser les politiques de gouvernance de l’IA et à assurer la conformité avec la législation comme le AI Act de l’UE. Le projet, soutenu par Microsoft, IBM Research et l’Institut Alan Turing, aide les entreprises à cartographier, évaluer et atténuer les risques d’IA dans des environnements cloud hybrides.
Red Hat lance asago, un projet open-source qui automatise la mise en œuvre des politiques de gouvernance IA en contrôles opérationnels pour les agents autonomes et les LLM d’entreprise. Le projet réunit des leaders du secteur et des institutions académiques afin de créer un flux de travail auditable, traçable et conforme aux réglementations telles que l’EU AI Act.
Le gouvernement britannique envisage un renforcement de la réglementation de l’IA si les tests volontaires ne suffisent plus à protéger le public, selon le ministre de l’IA Kanishka Narayan. Cette éventualité pourrait influencer les décisions d’achat des entreprises et la position du Royaume‑Uni sur le marché mondial de l’IA.
L’Union européenne a créé une équipe spécialisée au sein du bureau IA de Bruxelles pour surveiller les développeurs d’IA, lutter contre les deepfakes et les menaces cybernétiques, conformément aux nouvelles exigences de transparence du AI Act. Cette initiative vise à protéger les infrastructures publiques et les droits fondamentaux tout en renforçant la souveraineté technologique de l’Europe.
L’Union européenne a commencé à appliquer les nouvelles obligations de transparence de l’IA, obligeant les fournisseurs à identifier clairement le contenu généré ou modifié par l’IA. Le non-respect de ces règles expose les entreprises à des amendes pouvant atteindre 15 millions d’euros ou 3 % du chiffre d’affaires mondial.
Le cas Workday montre que les contrats d’IA doivent inclure des droits d’audit et des obligations de conservation des preuves pour pouvoir reconstituer les décisions d’embauche. Sans un calendrier d’évidence clair, les enregistrements nécessaires peuvent être fragmentés entre le vendeur, le client et leurs avocats, compliquant la transparence et la conformité.
Ce rapport analyse les projets de lois des États américains et les cadres internationaux pour la régulation de l’IA de pointe, en soulignant les convergences autour de la sécurité, de la transparence et de l’évaluation des risques. Il montre également les divergences concernant la portée, la taille des modèles couverts et les exigences en matière d’évaluations tierces.
L’adoption rapide de l’IA dans le secteur financier crée des lacunes de gouvernance, permettant aux employés d’utiliser des outils non approuvés et générant ainsi des risques de shadow AI, comme les fuites de données et les défaillances de conformité. Des pratiques de gouvernance solides sont essentielles pour encadrer l’innovation, gérer les risques et garantir la confiance et les bénéfices mesurables de l’IA.
Les IA agentiques créent une nouvelle catégorie de contrôle, entre les personnes et les logiciels, nécessitant un modèle d’assurance dédié. Les CIO doivent concevoir des garanties qui testent les limites, surveillent les changements et documentent les interventions pour assurer la responsabilité.
De nombreuses équipes de développeurs d’IA médicale ignorent les cadres réglementaires tels que le AI Act de l’UE ou les directives singapouriennes, ce qui menace la confiance du public et la sécurité des patients. L’étude recommande d’intégrer la formation réglementaire dans les cursus et d’instaurer un mentorat interne pour combler ces lacunes.
