Renforcement de la gouvernance de l’IA dans les organisations à Singapour
Contexte et objectifs
GovTech Singapore souligne que la gouvernance de l’IA est essentielle pour instaurer la confiance, assurer la conformité, gérer les risques et favoriser l’innovation responsable face à l’expansion de l’adoption de l’IA dans les activités commerciales.
Définition de la gouvernance de l’IA
Il s’agit d’un cadre de politiques, processus et responsabilités guidant le développement et le déploiement éthiques, transparents et responsables des systèmes d’IA au sein d’une organisation, couvrant l’ensemble du cycle de vie de l’IA, de la conception à la surveillance continue.
Éléments clés identifiés
Transparence et explicabilité : rendre les décisions de l’IA compréhensibles.
Équité et atténuation des biais : garantir que les modèles ne reproduisent pas de discriminations.
Responsabilité et supervision humaine : maintenir un contrôle humain sur les systèmes critiques.
Protection des données et sécurité : sécuriser les informations utilisées et générées par l’IA.
Recommandations pratiques pour les organisations
Les entreprises sont encouragées à établir des politiques internes claires sur l’usage de l’IA, à développer la littératie en IA parmi les équipes, à réaliser des audits et évaluations réguliers, et à privilégier des pratiques de développement sécurisé.
Références et outils de soutien
Le Modèle de Gouvernance de l’IA pour l’IA Générative, élaboré par l’AI Verify Foundation et l’Infocomm Media Development Authority, sert de point de référence. GovTech propose également la suite AI Guardian, comprenant :
Litmus – plateforme de test utilisant des prompts adverses pour identifier les risques.
Sentinel – service de garde-fou détectant et atténuant les contenus dangereux ou non pertinents avant qu’ils n’affectent les modèles ou les utilisateurs.
Conclusion
La gouvernance de l’IA est présentée non seulement comme une exigence de conformité, mais comme un pilier central pour bâtir un environnement numérique de confiance, où l’IA peut être déployée en toute sécurité et efficacité, soutenant ainsi l’agenda plus large de la Smart Nation de Singapour.