Les entreprises financières adoptent des outils d’IA et font face à de nouveaux tests de conformité
Dans les salles de conseil des services financiers, la pression pour « utiliser plus de technologies » n’est plus abstraite. Elle est urgente. L’IA peut faire émerger des schémas que les humains manquent. Les outils basés sur le cloud peuvent réduire les coûts et accélérer les lancements. De nouveaux modèles informatiques promettent des percées. Mais chacun de ces gains s’accompagne d’une question familière qui a maintenant des contours plus nets : si un outil vous aide à décider plus rapidement, qui est responsable lorsque la décision tourne mal ?
Les nouveaux défis de la prise de décision
C’est la tension qui traverse les nouvelles orientations de Herbert Smith Freehills sur la prise de décision dans les services financiers modernes. Le point central de la firme est simple : la technologie élargit la quantité et la variété d’informations que les dirigeants peuvent utiliser, ce qui peut produire de meilleures décisions. Cependant, elle peut également amplifier les risques, en particulier le risque réglementaire, si la gouvernance ne suit pas.
Herbert Smith présente le défi comme un exercice consistant à « rester dans les lignes ». Adopter des outils qui améliorent les résultats tout en respectant les attentes de supervision qui n’ont pas disparu simplement parce que les données sont désormais numériques. Les auteurs se concentrent sur trois domaines où cet équilibre devient de plus en plus difficile : les agents d’IA, l’IA basée sur le cloud et la réalité « proche mais lointaine » de l’informatique quantique.
Agents d’IA : la responsabilité des décisions
Pour les agents d’IA, l’avertissement n’est pas que les régulateurs sont anti-IA. C’est que les régulateurs s’attendent à ce que les entreprises comprennent ce que les systèmes font et gèrent les risques qui viennent avec la vitesse et l’échelle. L’orientation note que l’IA peut améliorer des tâches comme l’évaluation de crédit en analysant plus de données, plus rapidement, mais un modèle défectueux peut également amplifier les pertes sur un portefeuille plus large. Elle expose également des pièges pratiques, allant des résultats « boîtes noires » difficiles à expliquer, aux données de formation biaisées, en passant par la dépendance à des fournisseurs tiers en dehors du périmètre d’un régulateur.
IA basée sur le cloud : opportunités et risques
Concernant l’IA basée sur le cloud, l’orientation soutient que les avantages sont réels : scalabilité, efficacité, réduction des coûts internes. Mais le profil de risque est également accru, surtout lorsque des données sensibles résident dans une infrastructure que vous ne contrôlez pas. Les auteurs soulignent le rythme d’adoption : l’autorité monétaire de Hong Kong a déclaré que les projets liés au cloud représentent environ 80 % des initiatives d’externalisation technologique rapportables par les banques, avec une part significative touchant des systèmes critiques. Ils mettent également en avant les basiques que les régulateurs continuent de rappeler : hygiène cybernétique, risque tiers liés à l’IA, et qui peut accéder à des systèmes critiques.
Informatique quantique : opportunités et préoccupations
Enfin, le document se penche sur l’informatique quantique. La technologie pourrait offrir des avantages compétitifs, mais Herbert Smith note que les décideurs politiques s’inquiètent de la possibilité qu’elle stresse les fondations de sécurité actuelles, poussant les entreprises vers une planification de cryptographie « quantique-sûre ».
Vers une surveillance accrue
Ce qui vient ensuite, suggèrent les auteurs, c’est une surveillance accrue – et non pas moins – à mesure que l’adoption s’accélère. Les entreprises devront faire face à des attentes continues en matière de documentation, d’examens post-déploiement et de surveillance une fois que les systèmes deviennent la norme. Et elles doivent être prêtes pour une supervision qui teste si la gouvernance suit le rythme de la prise de décision pilotée par la technologie, en particulier là où l’impact sur le consommateur, l’externalisation et l’expliquabilité se croisent.