OneTrust Renforce Sa Plateforme de Gouvernance de l’IA avec un Suivi et une Application en Temps Réel
OneTrust a élargi sa plateforme de gouvernance avec de nouvelles fonctionnalités conçues pour surveiller et appliquer les politiques d’IA en temps réel, dépassant ainsi les workflows de conformité statiques et ponctuels.
Nouveautés de la Plateforme
Cette mise à jour cible les équipes de données, de risques et d’IA qui doivent gouverner les agents, modèles et ensembles de données d’IA alors qu’ils fonctionnent dans des environnements de production, plutôt que seulement lors d’audits ou d’évaluations périodiques.
Trois capacités principales ont été introduites :
- Détection et Inventaire des Agents d’IA : Cette fonctionnalité découvre et catalogue en continu les agents, modèles et ensembles de données d’IA dans l’environnement d’une organisation. Le système capture la propriété, l’objectif, les intégrations, l’accès aux données, la lignée et les changements de cycle de vie pour maintenir un enregistrement centralisé.
- Gestionnaire de Politiques d’IA et Bibliothèque de Politiques : Les organisations peuvent commencer avec des politiques prédéfinies alignées sur des normes telles que le NIST AI Risk Management Framework et le Règlement Européen sur l’IA, ou définir les leurs. L’outil surveille ensuite la conformité en continu pour les modèles et agents.
- Application des Garde-fous d’IA : Cette capacité inspecte les systèmes d’IA, y compris l’IA générative et les modèles d’apprentissage automatique traditionnels, pour vérifier les configurations de garde-fous et détecter les violations. Lorsque des risques sont identifiés, le système peut appliquer automatiquement des protections, comme bloquer ou limiter l’exposition des données personnelles.
Une Gouvernance Continue
DV Lamba, Directeur Produit et Technologie chez OneTrust, a qualifié cette mise à jour de réponse à l’écart croissant entre la rapidité de déploiement des systèmes d’IA et la manière dont la gouvernance est traditionnellement appliquée.
« Alors que l’IA devient de plus en plus intégrée dans l’entreprise, les organisations ont besoin d’une gouvernance qui évolue au même rythme », a expliqué Lamba. « Avec ces nouvelles capacités, OneTrust fait évoluer la gouvernance de l’IA de la conformité ponctuelle vers un contrôle continu et en temps réel sur les principales plateformes de données et d’IA. »
Cela permet aux organisations d’innover en toute confiance, de se déplacer plus rapidement, de réduire les risques et de maintenir la confiance à mesure que l’IA se développe.
Intégrations de la Plateforme
OneTrust a noté que le développement de l’IA se produit de plus en plus sur des plateformes cloud et des outils d’agents sans code, rendant difficile pour les équipes de gouvernance de maintenir la visibilité. Pour y remédier, la plateforme s’intègre à des environnements de développement d’IA et à des services cloud, notamment Amazon Bedrock, Amazon SageMaker, Azure Foundry, Azure OpenAI, Databricks Unity Catalog et Google Vertex.
Ces intégrations visent à donner aux équipes de gouvernance un moyen de surveiller les systèmes d’IA là où ils sont réellement construits et déployés, plutôt que de s’appuyer sur des rapports manuels des équipes de développement.
Utilisation de la Plateforme par les Clients
OneTrust a souligné plusieurs organisations utilisant déjà sa plateforme pour la gouvernance de l’IA :
- Blackbaud, fournisseur de logiciels pour le secteur de l’impact social, utilise OneTrust pour aligner ses pratiques d’IA avec le NIST AI Risk Management Framework.
- Kuehne + Nagel, la société de transport et de logistique, utilise la plateforme pour gérer la gouvernance de l’IA à l’échelle de l’entreprise.
- Lumen Technologies utilise les automatisations de OneTrust pour développer ses opérations de confidentialité et accélérer la conformité réglementaire.
Contexte Plus Large
La mise à jour arrive alors que les régulateurs de plusieurs juridictions avancent avec des législations et des cadres spécifiques à l’IA. Le Règlement Européen sur l’IA stimule déjà les activités de conformité parmi les organisations opérant en Europe.
Pour des fournisseurs de gouvernance comme OneTrust, l’opportunité commerciale réside dans le pont entre ces cadres réglementaires et la réalité opérationnelle des systèmes d’IA fonctionnant dans des environnements multi-cloud complexes.
Le défi sera de prouver que la gouvernance en temps réel peut évoluer sans créer de friction qui ralentit les pipelines de développement de l’IA qu’elle est censée superviser.