Le fossé de l’assurance IA : pourquoi les DSI ont besoin de preuves que les contrôles d’IA agentique fonctionnent
Les entreprises ont longtemps perfectionné l’audit des personnes et des logiciels. L’émergence de l’IA agentique crée une troisième catégorie : des systèmes capables d’interpréter des instructions, d’appeler des outils et d’agir à travers des flux de travail sans modèle d’assurance mature. Cette évolution impose aux dirigeants, notamment aux DSI, de disposer de preuves tangibles que les contrôles d’IA fonctionnent réellement.
Complexité des trajectoires d’action
Un agent IA peut collecter des données, choisir un outil, générer du code, acheminer une requête et transférer le travail à un autre agent avant qu’un humain n’approuve le résultat. Aucun manager unique n’observe l’ensemble du chemin, rendant la traçabilité difficile.
Responsabilité exécutive et besoins d’assurance
La responsabilité finale demeure humaine même lorsque l’activité opérationnelle devient autonome. Le DSI doit expliquer qui a autorisé l’activité, si l’agent est resté dans le cadre approuvé et quelles preuves soutiennent la réponse de la direction.
Initiatives et prévisions du secteur
En février 2026, le NIST a lancé l’AI Agent Standards Initiative pour sécuriser l’opération et l’interopérabilité des agents autonomes. Gartner prévoit que 40 % des applications d’entreprise incluront des agents spécifiques aux tâches d’ici fin 2026, contre moins de 5 % en 2025. Toutefois, plus de 40 % des projets d’IA agentique pourraient être annulés d’ici 2027 en raison de coûts, d’un manque de valeur métier ou de contrôles de risque inadéquats.
Statistiques de risques
Selon l’étude IBM 2025 « Cost of a Data Breach », 13 % des organisations interrogées ont signalé des violations impliquant des modèles ou applications IA, dont 97 % ont indiqué des contrôles d’accès IA insuffisants. De plus, 63 % manquaient de politiques de gouvernance pour gérer l’IA ou prévenir l’IA fantôme.
Modèle d’assurance proposé
Avant le déploiement, chaque agent doit disposer d’un dossier documentant :
- Objectif métier
- Propriétaire responsable
- Systèmes touchés
- Actions autorisées
- Conditions d’arrêt
Des tests doivent ensuite vérifier que l’agent ne peut pas :
- Accéder à des informations hors de son périmètre
- Appeler un outil non autorisé
- Continuer après une condition d’arrêt
- Propager une hypothèse erronée dans un autre système
Chaque agent devrait disposer de quatre enregistrements liés :
- L’état de référence approuvé
- Les résultats des tests de limites
- Un historique de dérive comportementale
- Un compte-rendu des exceptions et interventions
Renouvellement de l’autonomie
L’autonomie d’un agent doit être traitée comme une licence renouvelable. Tout changement matériel du modèle, des données, des outils, du flux de travail ou de l’autorité doit déclencher une réévaluation.
Exemple concret : agent de codage
Un agent commence par rédiger des cas de test, puis obtient l’accès aux dépôts, tickets, outils CI/CD et documentation de production. Une modification de production implique :
- Instruction initiale
- Génération de code
- Appel d’outil
- Test automatisé
- Mise à jour de ticket
- Approbation humaine
L’assurance doit démontrer comment chaque étape a été produite, quels systèmes ont participé, si l’agent a franchi une frontière et comment les exceptions ont été gérées.
Indépendance de l’audit
Les équipes internes conçoivent les contrôles, mais un audit indépendant doit vérifier que ces contrôles fonctionnent réellement. Les auditeurs ne peuvent pas signer sans disposer des preuves nécessaires.
Conclusion
L’IA agentique impose aux DSI d’intégrer l’assurance dès la conception du flux de travail. Un registre d’opération complet, incluant objectifs, tests de limites, changements matériels, exceptions et interventions, fournit une base solide pour les discussions avec le conseil d’administration, les audits ou les réponses réglementaires. Sans ce dispositif, la reconstruction d’un incident devient incertaine, les responsabilités se diffusent et la confiance des parties prenantes s’érode.