Risques liés à l’intelligence artificielle dans le secteur bancaire
Contexte et enjeux
Le Gouverneur de la Reserve Bank of India, Sanjay Malhotra, a souligné que le simple respect du Digital Personal Data Protection (DPDP) Act ne suffit pas à garantir la sécurité et l’éthique de l’usage de l’IA dans les banques. Lors de la conférence FIBAC 2026 à Mumbai, il a présenté six risques majeurs associés à l’adoption rapide de ces technologies.
1. Problème d’explicabilité (boîte noire)
Les modèles d’IA doivent pouvoir expliquer leurs décisions, notamment lorsqu’un refus de crédit est prononcé. Auditeurs, clients et régulateurs exigent une justification claire pour chaque décision impactant les usagers.
2. Biais et exclusion
Les algorithmes entraînés sur des données historiques peuvent reproduire ou amplifier des biais géographiques, professionnels ou communautaires. La justice doit être intégrée dès la conception, et non traitée comme une simple case à cocher de conformité.
3. Concentration et effet de troupeau
Si un petit nombre de fournisseurs technologiques domine le marché, leurs modèles peuvent être adoptés massivement, créant un risque de défaillance systémique en cas d’erreur ou de biais dans ces modèles.
4. Dépendance aux tiers et aux fournisseurs
Les banques, surtout les plus petites, sont souvent obligées de recourir à des prestataires externes pour développer ou exploiter des modèles d’IA. Cette dépendance doit être activement gérée afin d’éviter une perte de contrôle et de résilience.
5. Protection des données et conformité DPDP
Le respect du DPDP est indispensable, mais il ne doit pas être considéré comme une fin en soi. Les institutions financières doivent aller au‑delà du simple respect légal pour garantir la confidentialité et la sécurité des données.
6. Vulnérabilités cyber et adversariales
Les systèmes d’IA peuvent devenir des cibles ou des vecteurs d’attaques cybernétiques. Des exemples récents montrent des IA capables de collaborer à des tests d’intrusion, augmentant ainsi la surface d’exposition des banques.
Conclusion
Le principal défi reste la préservation du jugement humain et de la responsabilité. Une gouvernance robuste, une transparence accrue et une supervision humaine sont essentielles pour exploiter le potentiel de l’IA tout en maîtrisant ses risques.