AI crée de nouveaux risques pour les entreprises
Un rapport récent de StackGen révèle que un incident sur dix lié aux technologies implique désormais l’intelligence artificielle (IA). Cette évolution rapide expose les organisations à des risques opérationnels, de gouvernance et de résilience qu’elles ne maîtrisent pas encore pleinement.
Montée en puissance des incidents IA
Entre 2023 et 2026, la part des incidents IA est passée de 1,7 % à 10,7 %, soit une multiplication par six en trois ans. Cette hausse concerne surtout les fournisseurs d’IA et les entreprises qui développent des applications IA, mais ne reflète pas les incidents internes où l’IA est déjà intégrée aux processus métiers.
Nouvelles catégories de risques
Le rapport identifie trois grands types de risques émergents :
- Dépendance accrue aux fournisseurs tiers : une panne chez un prestataire peut se répercuter rapidement sur de nombreuses organisations.
- Sorties d’IA trompeuses : des résultats qui semblent corrects mais qui sont inexacts ou trompeurs.
- Agents IA autonomes : des systèmes capables d’agir dans des environnements de production, générant des perturbations non prévues.
Impact des tiers et temps de résolution
Plus d’un incident sur quatre étudié provient de fournisseurs externes. Le temps moyen de résolution d’un incident lié à un tiers est de 247 minutes, contre 96 minutes pour un incident interne.
Recommandations pour les employeurs
Pour faire face à ces défis, les organisations doivent :
- Intégrer la gouvernance IA dans la gestion des risques d’entreprise.
- Réviser la dépendance aux fournisseurs tiers dans les plans de continuité d’activité.
- Établir des règles claires pour les systèmes IA autonomes, incluant permissions, approbations et supervision humaine.
- Renforcer le suivi, la réponse aux incidents et la planification de résilience spécifiques à l’IA.
- Former les dirigeants et managers aux enjeux de gouvernance et de risques IA.
- Développer des politiques couvrant à la fois les plateformes IA d’entreprise et l’usage d’outils IA grand public par les employés.
- Mesurer le succès de l’IA non seulement en termes de productivité mais aussi de résilience, de confiance et de gouvernance.
Enjeux humains et culturels
Les études montrent que les employés consacrent jusqu’à six heures par semaine à corriger des travaux générés par l’IA de mauvaise qualité. Cette situation souligne le besoin urgent de formation et d’encadrement pour aligner l’adoption rapide de l’IA avec des pratiques de gouvernance robustes.
Perspectives futures
Le prochain stade de l’adoption de l’IA sera jugé non seulement par la vitesse d’innovation, mais par la capacité des organisations à gérer les risques, à assurer la résilience et à équiper leurs équipes pour un environnement de travail de plus en plus dominé par l’IA.