Nouvelle orientation de l’OCDE pour les organisations dans l’élaboration de leur cadre de gouvernance de l’IA
L’intelligence artificielle (IA) est désormais une réalité au sein des entreprises. Les organisations ont expérimenté divers modèles de gouvernance, mais elles doivent évoluer au-delà de la simple conformité pour naviguer dans des réglementations mondiales complexes et des considérations éthiques autour de la justice et de la transparence.
Pour réussir, les organisations ont besoin d’un cadre stratégique qui intègre la supervision, les audits techniques des biais, et la formation culturelle tout au long du cycle de vie de l’IA.
Cadre de gouvernance proposé par l’OCDE
Les nouvelles directives de diligence raisonnable de l’OCDE fournissent une feuille de route pour atteindre cet objectif. Les organisations peuvent structurer leur plan de mise en œuvre de la gouvernance autour des éléments suivants :
1. Cadre politique et systèmes de gestion
Établir des politiques fondamentales qui reflètent des principes clés : IA centrée sur l’humain, justice et non-discrimination, transparence et expliquabilité, robustesse, sûreté, sécurité, et responsabilité. Construire des structures de gouvernance et des systèmes de gestion pour opérationnaliser ces principes.
2. Identification et évaluation des risques
Réaliser une évaluation approfondie des risques, soutenue par un engagement significatif des parties prenantes.
3. Prévention et atténuation des risques
Mettre en œuvre des pratiques de données responsables, garantir la transparence et l’expliquabilité, et maintenir des normes de sécurité, de robustesse et de déploiement responsable.
4. Suivi et monitoring
Établir des processus pour le suivi, le test et l’évaluation continus, ainsi qu’une documentation rigoureuse des incidents.
5. Communication externe et interne
Développer des divulgations adaptées au public et garantir la conformité avec les exigences de reporting réglementaire.
6. Planification et mécanismes de remédiation
Créer des voies claires pour traiter les problèmes et fournir des recours lorsque des préjudices surviennent.
À mesure que l’IA touche de plus en plus de fonctions et de départements au sein d’une organisation, une approche cloisonnée de la gouvernance n’est plus viable. Plutôt que de mettre en œuvre un cadre de gouvernance de l’IA autonome, les organisations devraient intégrer la gouvernance de l’IA dans leurs structures existantes de conformité et de gestion des risques.