Les parties prenantes demandent à la BMA d’éviter les structures spécifiques à l’IA redondantes
Les risques liés à l’intelligence artificielle (IA) sont largement couverts par les cadres réglementaires existants, ont indiqué les parties prenantes à l’Autorité monétaire des Bermudes (BMA) lors de l’élaboration d’un document de discussion intitulé L’utilisation responsable de l’intelligence artificielle dans le secteur des services financiers des Bermudes.
Cela concerne la gouvernance d’entreprise, la conduite, la gestion des risques, le risque cybernétique, la résilience opérationnelle et les exigences de surveillance des tiers, a déclaré la BMA dans une lettre aux parties prenantes cette semaine.
Intégration des considérations sur l’IA
Les parties prenantes ont encouragé la BMA à éviter les structures spécifiques à l’IA redondantes et à intégrer plutôt les considérations sur l’IA dans les cadres de gestion des risques d’entreprise établis.
Les répondants ont exprimé un large soutien à l’approche axée sur les résultats et guidée par des principes proposée par l’autorité pour la gouvernance de l’IA.
La BMA a déclaré que les répondants s’accordaient généralement à dire que l’IA pourrait offrir des bénéfices significatifs lorsqu’elle est déployée de manière responsable, y compris des améliorations en matière d’efficacité, de gestion des risques, de conformité et d’intégrité du marché.
Prudence face aux exigences technologiques
De nombreux acteurs ont également mis en garde contre des exigences trop prescriptives ou spécifiques à la technologie, notant le rythme du changement technologique et le risque que des règles rigides deviennent rapidement obsolètes.
La BMA a confirmé son intention de maintenir une approche de surveillance adaptée et neutre sur le plan technologique.
Gouvernance de l’IA au-delà des risques opérationnels
Certaines parties prenantes ont suggéré que la proportionnalité devrait reconnaître plus explicitement les avantages attendus ou les avantages concurrentiels de l’adoption de l’IA.
D’autres ont souligné que la gouvernance de l’IA devrait s’étendre bien au-delà des considérations de risque opérationnel traditionnelles, compte tenu de l’impact potentiellement transformateur des changements commerciaux habilités par l’IA.
Évaluation des risques
La BMA a reconnu que les conseils d’administration et la direction supérieure prennent en compte les bénéfices stratégiques lorsqu’ils déterminent s’ils doivent poursuivre des solutions habilitées par l’IA, et que l’IA peut amplifier ou accélérer les facteurs de risque existants dans les catégories de risque opérationnel, de conduite, de données, cybernétique et stratégique.
Cependant, du point de vue de la supervision, la gouvernance responsable de l’IA est ancrée dans le risque et l’impact plutôt que dans l’avantage commercial, et ne nécessite pas nécessairement la création de cadres de gouvernance qui se situent en dehors ou au-dessus des arrangements établis de gestion des risques d’entreprise.
Implications pour l’intégrité du marché
Certains acteurs ont noté l’utilisation croissante de l’IA dans les fonctions d’investissement, de négociation, de surveillance du marché et de recherche, ainsi que les implications potentielles pour l’intégrité du marché et la stabilité financière.
Les retours ont mis en évidence les risques associés aux comportements corrélés ou de suivisme, aux dynamismes de marché accélérés sous stress, à la dépendance à des sources de données alternatives ou non structurées, et au potentiel de manipulation de marché habilitée par l’IA ou de disclosures trompeurs concernant les capacités de l’IA.
Alignement réglementaire international
Les parties prenantes ont fortement souligné l’importance de l’alignement réglementaire international, en particulier pour les entreprises opérant sous des cadres de gouvernance de l’IA à l’échelle du groupe qui doivent se conformer à plusieurs régimes réglementaires.
Les répondants ont également identifié des défis pratiques liés aux compétences, à la ressource, à la validation indépendante et à l’intégration avec les systèmes existants, en particulier pour les institutions plus petites ou moins complexes.
Conclusion
La BMA a reconnu l’importance d’une mise en œuvre par étapes, d’un engagement de supervision et d’un dialogue continu pour soutenir l’adoption proportionnée et efficace des pratiques de gouvernance de l’IA.
L’autorité prévoit de continuer à engager les parties prenantes et à surveiller les développements internationaux pour informer son analyse des exigences réglementaires existantes, des pratiques de marché actuelles et des principes énoncés dans le document de discussion afin de garantir que les cadres restent adaptés à leur objectif.
L’objectif de l’autorité est de soutenir l’innovation responsable tout en veillant à ce que toute amélioration des attentes de supervision soit pratique, fondée sur les risques et évite les doublons inutiles ou le fardeau réglementaire involontaire.