Nvidia et la sécurité de l’IA agentique
Pour la première fois lors d’un lancement majeur de plateforme d’IA, la sécurité a été intégrée dès le départ, plutôt que d’être ajoutée des mois plus tard. Lors de la conférence Nvidia GTC, cinq fournisseurs de sécurité ont annoncé leur protection pour l’IA agentique de Nvidia, quatre ayant des déploiements actifs, et un avec une intégration précoce validée.
Un environnement de menace en évolution
Le timing de cette annonce souligne la rapidité avec laquelle la menace a évolué : 48% des professionnels de la cybersécurité considèrent l’IA agentique comme le principal vecteur d’attaque pour 2026, tandis que seulement 29% des organisations se sentent entièrement prêtes à déployer ces technologies en toute sécurité.
Nvidia a défini un modèle de menace unifié conçu pour s’adapter aux forces uniques de cinq différents fournisseurs. Parmi eux, Google, Microsoft Security et TrendAI collaborent avec Nvidia pour la sécurité.
Les couches de gouvernance
Le cadre de gouvernance à cinq couches est basé sur les annonces des fournisseurs et les OWASP Agentic Top 10. Chaque couche de gouvernance répond à des questions cruciales que chaque fournisseur de sécurité devrait être en mesure de répondre :
- Décisions des agents : Gardes en temps réel sur chaque action.
- Exécution locale : Surveillance comportementale pour les agents sur dispositif.
- Opérations cloud : Application des règles dans les déploiements cloud.
- Identité : Privilèges limités par identité d’agent.
- Chaîne d’approvisionnement : Scannage des modèles avant déploiement.
Les défis à surmonter
Malgré les avancées, trois défis persistent :
- Confiance entre agents : La délégation d’agents à d’autres agents pose des problèmes de crédibilité.
- Intégrité de la mémoire : Les agents avec une mémoire persistante créent une surface d’attaque unique.
- Provenance registre-à-runtime : Nécessité de prouver que le modèle en production est l’artéfact scanné et signé.
La nécessité d’une surveillance proactive
Les responsables de la sécurité doivent être proactifs dans l’audit de chaque agent autonome selon les cinq couches de gouvernance. Il est crucial de déterminer si des questions restent sans réponse, car cela indique des agents non régulés en production.
Les recommandations pour les CISOs incluent :
- Réaliser un audit des cinq couches.
- Compter les questions sans réponse pour identifier les agents non régulés.
- Tester les ouvertures restantes avec les fournisseurs.
- Établir un modèle de surveillance avant de passer à l’échelle.
En conclusion, bien que le cadre de gouvernance représente un progrès significatif, il est essentiel de traiter ces défis pour assurer la sécurité des systèmes d’IA agentique dans un environnement en constante évolution.