Gouvernance de l’IA : Enjeux de formation, supervision et facteur humain
Contexte et motivation
Lors du AI Governance roundtable du Loeb’s AI Summit à Los Angeles (21 avril), les participants ont souligné que les organisations cherchent à renforcer leurs capacités de formation liées aux outils d’IA. Les modèles de gouvernance évoluent rapidement, rendant difficile le maintien à jour des programmes de formation et d’habilitation du personnel.
Modèles de gouvernance observés
Deux principaux modèles se dégagent :
- 1. Équipe centrale de gouvernance IA : une structure concentrée qui supervise l’ensemble des initiatives IA.
- 2. Gouvernance décentralisée : chaque unité métier gère l’adoption de l’IA avec le soutien de responsables IA désignés.
Défi majeur : la capacité du personnel
Un problème récurrent concerne la capacité des employés, notamment les jeunes ou moins expérimentés, à détecter les sorties d’IA inexactes ou incomplètes. La supervision par du personnel senior est cruciale, tout comme la transparence des employés lorsqu’ils utilisent l’IA pour produire du travail. Sans cette vigilance, le risque de divulguer des résultats erronés augmente, créant des problèmes de conformité et opérationnels que les seules structures de gouvernance ne peuvent résoudre.
Intégration aux cadres de gouvernance existants
La plupart des organisations superposent la gouvernance IA aux cadres de gouvernance des données déjà en place. Les entités qui débutent dans la gouvernance IA rencontrent des difficultés à identifier les risques spécifiques à l’IA et à développer la littératie interne nécessaire pour établir des politiques appropriées.
Rôles des équipes de gouvernance IA développées
Lorsque les équipes sont plus matures, elles sont généralement chargées de :
- Revoir et approuver les outils et cas d’usage IA.
- Mettre en place des garde‑fous et évaluer les risques avant le déploiement.
- Communiquer les mises à jour et changements, même si la rapidité d’évolution de l’IA rend cette communication souvent incohérente.
Défis post‑déploiement
Le suivi après mise en production, les mises à jour de version et la réévaluation continue des risques restent des points faibles. L’émergence de l’IA agentique pourrait accentuer ces difficultés, rendant la visibilité centralisée plus ardue et augmentant la nécessité de politiques de supervision humaine robustes.
Conclusion : le facteur humain au cœur de la gouvernance IA
L’enjeu principal n’est pas tant structurel que humain : il s’agit d’assurer que chaque niveau de l’organisation dispose de la formation, de la littératie et des cadres de supervision nécessaires pour utiliser les outils d’IA de manière responsable et identifier les limites des productions générées par l’IA.