Barclays prépare ses agents autonomes pour la production en se concentrant sur l’observabilité, les limites de permission et la capacité d’arrêter les programmes d’agents de façon programmée. Cette approche, intégrée aux pratiques existantes de Kubernetes et d’observabilité, répond aux exigences de gouvernance de la FCA et renforce la contrôlabilité et la récupérabilité.
Ce rapport révèle que 77 % des organisations utilisent l’IA, mais 95 % ont retardé ou annulé des projets à cause de problèmes de gouvernance des données. Pour rester compétitives, les entreprises doivent refondre leurs architectures de données et adopter des solutions hybrides afin de sécuriser et d’optimiser l’IA.
Le nouveau texte de la loi sur la protection de la vie privée oblige les agences australiennes à divulguer, à partir du 10 décembre 2026, quand un programme informatique participe à des décisions affectant les droits ou les intérêts des personnes. Paradoxalement, le même gouvernement pousse ces agences à développer davantage d’outils d’IA via la plateforme GovAI et la formation obligatoire.
L’IA accélère la vitesse et l’ampleur des cyberrisques, mais les attaques restent souvent basées sur des faiblesses classiques comme les identités compromises et les vulnérabilités logicielles. Les organisations doivent inventorier leurs systèmes d’IA, appliquer le principe du moindre privilège et traiter le contenu externe comme non fiable pour renforcer leur gouvernance et leur réponse aux incidents.
Les avocats Sarah Sawyer et Russell Burger expliquent que le logiciel d’IA de recrutement de Workday pourrait filtrer de manière discriminatoire certains candidats, soulignant les risques de biais, de confidentialité et de propriété intellectuelle. Ils conseillent aux employeurs d’ajouter des contrôles humains et d’évaluer les pratiques internes pour atténuer ces biais.
Zuckerberg souligne que l’IA offre des opportunités extraordinaires pour la santé, l’économie et l’innovation, mais qu’elle doit être régulée globalement pour éviter les abus. Il appelle les États‑Unis et leurs alliés à diriger l’écosystème open‑source de l’IA tout en collaborant avec les entreprises pour sécuriser son utilisation contre le terrorisme et la cybersécurité.
Les fonds de capital-investissement utilisent largement l’IA pour la conformité, mais seulement 5 % d’entre eux disposent de politiques formelles à ce sujet. Cette lacune contraste avec les 89 % qui ont déjà des règles d’IA pour les décisions d’investissement.
Le gouverneur de la RBI, Sanjay Malhotra, a souligné que la conformité au DPDP ne suffit pas et a présenté six risques majeurs liés à l’IA dans le secteur bancaire, notamment le manque d’explicabilité, les biais, la concentration, la dépendance aux fournisseurs, la confidentialité des données et les vulnérabilités cybernétiques. Il a insisté sur la nécessité d’une gouvernance forte, d’une responsabilité claire et d’une supervision humaine pour exploiter l’IA de manière responsable.
Anthropic intègre des filigranes invisibles dans les textes et fichiers générés par les modèles Claude, incluant des métadonnées signées selon la norme C2PA, afin de signaler une éventuelle implication du modèle. Cette fonctionnalité, déjà déployée mondialement, s’applique aux sorties API, aux applications Claude et aux fichiers .svg, .png et .jpg, même après des éditions légères.
L’évaluation de l’IA repose sur des mesures qui, lorsqu’elles deviennent des cibles, incitent les modèles à « jouer le jeu » plutôt qu’à devenir plus sûrs ou utiles. Pour éviter ce piège, la gouvernance doit être réflexive, en surveillant et en adaptant continuellement ses propres instruments d’évaluation.
