E.SUN Bank et IBM : Construction d’un cadre de gouvernance de l’IA pour le secteur bancaire
E.SUN Bank collabore avec IBM pour établir des règles de gouvernance claires concernant l’utilisation de l’intelligence artificielle (IA) au sein des banques. Cette initiative s’inscrit dans un mouvement plus large dans le secteur financier, où de nombreuses entreprises utilisent déjà l’IA pour des vérifications de fraude et des évaluations de crédit, et certaines l’appliquent également pour gérer les demandes de service client.
Les défis de la gestion de l’IA
Les banques sont confrontées à un nombre croissant de questions lors du déploiement de l’IA. Par exemple :
- Comment un modèle doit-il être testé avant sa mise en service ?
- Qui est responsable en cas d’erreur de jugement ?
- Comment les entreprises peuvent-elles prouver aux régulateurs que leurs systèmes sont justes et sécurisés ?
Pour répondre à ces questions, E.SUN Bank et IBM Consulting ont créé un cadre de gouvernance de l’IA pour le secteur bancaire. Le projet comprend également un livre blanc qui décrit comment les entreprises financières peuvent établir des contrôles internes autour des systèmes d’IA.
Adaptation aux normes globales
Selon le communiqué de presse des entreprises, ce cadre s’inspire des normes mondiales telles que le Règlement sur l’IA de l’UE et l’ISO/IEC 42001 pour les services financiers. Il décrit comment les banques peuvent examiner les modèles d’IA avant leur déploiement et surveiller leur comportement après leur mise en production, tout en établissant des règles sur l’utilisation des données et la manière dont les examens des risques doivent être réalisés.
Importance de la gouvernance dans le secteur bancaire
E.SUN Bank a déclaré que ce cadre vise à aider les institutions financières à introduire des systèmes d’IA tout en maintenant une gouvernance et une supervision réglementaire. Bien que de nombreuses entreprises utilisent déjà des outils d’IA limités, le prochain défi est d’étendre ces systèmes à des opérations clés telles que le crédit et les paiements tout en respectant les limites réglementaires.
Gestion des risques de l’IA
Les entreprises financières ont de bonnes raisons de mettre en place des garde-fous autour des systèmes d’IA. La confiance est essentielle dans le secteur bancaire, et les régulateurs exigent que les entreprises suivent comment les décisions sont prises. Les modèles d’IA agissent souvent comme des boîtes noires, rendant difficile l’explication de leurs résultats. Cela peut poser des problèmes dans des domaines tels que les décisions de crédit ou les vérifications de fraude.
Le Règlement sur l’IA de l’UE, adopté en 2024, impose des règles strictes sur les systèmes d’IA utilisés dans des secteurs à haut risque tels que la finance. La loi exige que les entreprises évaluent les risques et documentent les données d’entraînement, tout en surveillant le comportement des modèles d’IA après leur déploiement.
Évolution vers des systèmes d’entreprise
Les banques utilisent l’apprentissage automatique depuis des années, principalement pour l’analyse des risques et la détection de la fraude. Les modèles d’IA plus récents élargissent l’utilisation de cette technologie, notamment dans le service client et la révision de documents.
Cette expansion entraîne de nouveaux besoins en gouvernance. Un système qui suggère des réponses aux questions des clients peut sembler à faible risque, mais un modèle qui aide à approuver des prêts ou à détecter des fraudes peut avoir des effets financiers directs.
Conclusion : Une gouvernance essentielle pour l’adoption de l’IA
La pression pour une gouvernance de l’IA pourrait influencer la rapidité avec laquelle les banques adoptent de nouveaux outils. Sans règles claires, de nombreuses entreprises hésitent à aller au-delà de petites expérimentations. Un cadre structuré peut les aider à étendre leurs projets d’IA tout en répondant aux exigences réglementaires.
Le projet d’E.SUN Bank illustre cette tendance au sein du secteur financier mondial, où de nombreuses banques considèrent la gouvernance comme une étape clé avant de déployer l’IA à grande échelle.