Gouvernance de l’IA Responsable : Surveillance du conseil, responsabilité humaine et approche basée sur le risque
À mesure que l’intelligence artificielle s’intègre profondément dans la prise de décision des entreprises, elle ne peut plus être considérée comme une simple technologie ou un exercice de conformité. Les organisations doivent adopter des modèles de gouvernance capables de couvrir le déploiement de l’IA, les conséquences des décisions automatisées, les juridictions concernées et, surtout, la responsabilité en cas d’incident.
Contexte de la discussion
Le thème principal du panel « Responsible AI & Governance : Ethics, Bias, Compliance and the Global Regulatory Landscape » lors du ETLegalWorld AI-Powered Legal Transformation Summit 2026 a été animé par Jyoti Pawar, Independent Counsel – AI, Data & Tech. Les intervenants comprenaient Saurabh Awasthi (Kyndryl Solutions), Jaswinder Singh Shekhawat (MediBuddy), Sudha Hooda (NVIDIA) et Deepalakshmi Vadivelan (Quess Corp.).
Principaux enjeux soulevés
Le panel a abordé plusieurs questions de gouvernance :
- Prise de décision autonome et opacité des modèles.
- Conflits réglementaires transfrontaliers et provenance des données.
- Responsabilité en cas de résultat généré par l’IA.
Importance de la littératie IA au niveau du conseil
Sudha Hooda a souligné que les conseils d’administration doivent d’abord développer une compréhension de l’IA plutôt que de créer des comités séparés. Elle a déclaré : « Il ne faut pas un comité autonome qui travaille en silo », suggérant que les comités existants devraient intégrer les compétences IA nécessaires pour évaluer l’impact dans leur champ d’action.
Le manque de compréhension technique constitue le risque majeur, notamment la distinction entre les tâches répétitives automatisables et les décisions critiques nécessitant un jugement humain.
Domaines à haut risque
Jaswinder Singh Shekhawat a identifié le secteur de la santé et des assurances comme particulièrement sensible, où l’IA intervient dans la souscription et la gestion des sinistres, tout en manipulant des données sensibles. Il a mis en avant le danger de biais issus de données historiques et la nécessité d’une supervision humaine.
Responsabilité et chaîne de valeur de l’IA
Le débat a souligné que les organisations doivent déterminer à l’avance qui porte la responsabilité en cas de préjudice causé par l’IA : la direction, le produit, le service juridique ou la sécurité de l’information.
Deepalakshmi Vadivelan a rappelé que la position d’une entreprise dans la chaîne de valeur de l’IA (développeur vs. déployeur) influence les obligations légales et la structure de gouvernance appropriée.
IA responsable : au‑delà d’une simple checklist
Le panel a conclu que l’IA responsable ne peut pas être réduite à une checklist détenue uniquement par le service juridique ou conformité. Une gouvernance efficace requiert :
- Une littératie IA au sein du conseil d’administration.
- Des compétences techniques pour les équipes juridiques.
- Une clarté pour les fonctions commerciales sur les moments où l’automatisation est fiable et ceux où le jugement humain est indispensable.
Le cadre de gouvernance doit varier selon l’industrie, le cas d’usage, la géographie et la position de l’entreprise dans la chaîne de valeur de l’IA.
Conclusion
Le véritable défi n’est pas seulement de trouver la bonne réglementation, mais de construire une gouvernance capable de suivre le rythme rapide de l’innovation technologique, tout en assurant une responsabilité identifiable, une supervision humaine significative et une confiance durable dans les systèmes d’IA.