Adoption de l’IA : Risques de gouvernance et de litige pour les entreprises
Une augmentation de l’adoption de l’intelligence artificielle (IA) génère de nouveaux risques en matière de gouvernance, de cybersécurité et de litiges pour les entreprises, selon des intervenants lors du Symposium D&O de la Professional Liability Underwriting Society à New York.
Surveillance et cadres de gouvernance
Les intervenants ont souligné que les conseils d’administration et les assureurs se concentrent de plus en plus sur la manière dont les entreprises déploient des outils IA et si des cadres de supervision adéquats sont en place. Andrew Kosoff, vice-président senior et leader de la responsabilité des entreprises publiques chez Hub International, a déclaré : “L’IA ne sera pas une tendance. Elle fera partie de toutes nos affaires.”
Alors que les entreprises intègrent l’IA dans leurs opérations et produits, les souscripteurs et les courtiers posent davantage de questions sur l’utilisation de cette technologie et sur les garanties qui existent autour des données et de la supervision.
Risques de litige liés à l’IA
Les intervenants ont averti que des litiges pourraient surgir si les entreprises exagèrent les capacités des technologies IA ou échouent à gérer correctement les risques associés. Elizabeth Napoli, vice-présidente des assurances entreprises chez Trisura Insurance Company, a souligné : “L’IA est vraiment un problème de divulgation dans de nombreuses réclamations. Ont-ils exagéré ce que la technologie pouvait faire ?”
Cette problématique a également commencé à apparaître dans le cadre de litiges en matière de titres, avec des poursuites déposées ces dernières années alléguant que des entreprises ont trompé des investisseurs sur les capacités de l’IA ou les bénéfices financiers potentiels de son adoption.
Menaces cybernétiques croissantes
Au-delà des risques de divulgation, les intervenants ont indiqué que l’IA pourrait accroître les menaces cybernétiques en abaissant la barrière d’entrée pour les attaquants. Les acteurs malveillants utilisent de plus en plus d’outils IA pour automatiser ou améliorer leurs cyberattaques, les rendant potentiellement plus efficaces et plus faciles à déployer.
Peter Smith, responsable de la cybersécurité chez Axis Capital, a affirmé : “L’acteur malveillant cherche à réaliser la chose qui nécessite le moins d’effort et rapporte le plus de gains. Vous abaissez le niveau d’effort avec l’utilisation de l’IA.”
Dans le même temps, les vendeurs de cybersécurité et les assureurs explorent des moyens d’utiliser l’IA de manière défensive pour détecter les menaces et renforcer les systèmes de sécurité.
Risques juridiques liés à l’IA
Les intervenants ont également souligné des risques juridiques croissants liés à la propriété intellectuelle, à la vie privée et à la gouvernance des données à mesure que les entreprises déploient des outils IA reposant sur de grands ensembles de données. Ces risques sont susceptibles d’augmenter à mesure que les régulateurs commencent à développer des cadres plus clairs pour la supervision de l’IA.
Emily Selck, directrice senior du Baldwin Group et leader national de la pratique cyber, a déclaré : “Il n’y a pas assez de réglementation autour de l’IA. À mesure que la réglementation se développe, les entreprises devront aborder ce que cela signifie d’un point de vue de gouvernance.”
Conclusion
Les intervenants ont conclu que l’évolution rapide de l’IA est susceptible de créer de nouvelles expositions tant pour l’assurance cyber que pour la responsabilité D&O, en particulier si les entreprises échouent à divulguer ou à gérer correctement les risques associés à cette technologie.