L’adoption généralisée de l’IA dans les services financiers augmente la productivité, mais seulement 32 % des organisations disposent de systèmes de surveillance capables de détecter les risques liés au contenu généré par l’IA. Cette lacune de conformité crée des vulnérabilités, incitant les professionnels à réclamer des cadres de suivi plus robustes pour garantir la transparence et la sécurité des communications.
Ces questions visent à révéler les faiblesses potentielles des fournisseurs d’IA en santé, en s’assurant qu’ils disposent de certifications HITRUST adéquates et de cadres de gouvernance robustes. Elles aident les organisations à choisir des partenaires capables de gérer les données de santé de manière sécurisée tout en intégrant l’IA de façon responsable.
Les législateurs de l’UE n’ont pas trouvé d’accord sur un assouplissement de l’AI Act, repoussant les négociations à mai et laissant les obligations à haut risque en vigueur dès le 2 août. Les discussions portent sur l’exemption de certains produits déjà soumis à des règles de sécurité, ce qui suscite des oppositions de divers groupes.
Le procureur général du Colorado a indiqué qu’il ne fera pas appliquer la loi sur l’IA de l’État lorsqu’elle entrera en vigueur cet été, demandant au tribunal fédéral de suspendre temporairement son exécution. Cette décision intervient après la plainte de xAI visant à empêcher l’application de la loi SB24‑205 avant son éventuelle révision législative.
Green Cabbage propose une session d’entraînement enregistrée sur les risques et opportunités de l’IA dans les contrats fournisseurs, animée par le directeur juridique Wesley Schnell, certifié en gouvernance IA. Cette initiative vise à aider les équipes achats à intégrer des clauses IA et à renforcer la gestion des risques contractuels.
Le ministère néerlandais a considérablement amélioré l’efficacité et la stabilité de ses systèmes d’IA, multipliant par trois la capacité de traitement grâce à l’optimisation des processus et à des interventions technologiques ciblées. Parallèlement, le cadre de gouvernance de l’IA a été renforcé pour assurer la conformité aux législations européennes et favoriser un déploiement responsable.
Le gouverneur Gavin Newsom a signé l’ordonnance exécutive N‑5‑26 pour obliger les agences de l’État à intégrer des exigences de certification, de divulgation et de gestion des risques liés à l’IA dans les processus de passation de marchés publics. Cette initiative vise à garantir que les fournisseurs d’IA respectent des normes strictes en matière de biais, de sécurité et de droits civils avant de pouvoir contracter avec le secteur public californien.
L’article explique que la gouvernance de l’IA doit passer des principes aux preuves en définissant des métriques concrètes telles que la couverture d’inventaire, le tiering des risques et les évaluations d’équité. Il propose de créer un tableau de bord avec quelques indicateurs clés pour mesurer la visibilité, le contrôle, la performance, l’éthique et la conformité des systèmes d’IA.
GovTech Singapour souligne que la gouvernance de l’IA, incluant transparence, équité, responsabilité et protection des données, est essentielle pour instaurer la confiance et gérer les risques dans les entreprises. Leur suite AI Guardian, avec Litmus et Sentinel, aide à détecter et atténuer les vulnérabilités et le contenu dangereux avant le déploiement.
Le texte explique que les régulateurs financiers ont utilisé pendant près d’un siècle des organisations d’autorégulation supervisées (SRO) pour résoudre les problèmes de concurrence, d’asymétrie d’information et de rythme d’évolution rapide, et propose d’appliquer ce modèle aux laboratoires d’IA afin d’éviter une course à la sécurité. Un SRO supervisé par une agence gouvernementale garantirait des règles contraignantes, une mise à jour rapide et une responsabilité partagée pour prévenir les risques catastrophiques de l’intelligence artificielle.
