Utilisation de l’IA et Sécurité des Données : Un Écart Croissant
Un rapport récent publié par Cyera, intitulé « État de la Sécurité des Données AI : Comment Combler l’Écart de Préparation Alors que l’IA Dépasse les Mesures de Protection des Entreprises », basé sur une enquête menée auprès de 921 professionnels de l’informatique et de la cybersécurité, révèle que, bien que 83 % des entreprises « utilisent déjà l’IA dans leurs opérations quotidiennes », seulement 13 % reportent une bonne visibilité sur son utilisation.
Le rapport conclut :
Le résultat est un écart croissant : des données sensibles s’infiltrent dans les systèmes d’IA en dehors du contrôle des entreprises, des agents autonomes agissent au-delà de leur portée, et les régulateurs avancent plus rapidement que les entreprises ne peuvent s’adapter. L’IA est désormais à la fois un moteur de productivité et l’une des surfaces de risque les plus rapidement en expansion que les CISOs doivent défendre.
Une Adoption Rapide mais Incontrôlée
Les résultats de l’enquête montrent que, bien que l’adoption de l’IA dans les entreprises soit rapide, la plupart d’entre elles sont « aveugles à la façon dont l’IA interagit avec leurs données. » Cela est compliqué par le fait que les agents autonomes d’IA sont difficiles à sécuriser et très peu d’organisations disposent de contrôles de sortie ou de prompt, y compris la capacité de bloquer les activités risquées de l’IA par les employés.
Un Accès Excessif aux Données
De plus, la plupart des répondants ont reconnu que les outils d’IA utilisés dans l’organisation « accèdent excessivement aux données ». Cela est d’autant plus compliqué qu’une petite minorité de ceux interrogés (7 %) dispose d’une équipe de gouvernance dédiée à l’IA, et seulement 11 % se sentent pleinement préparés à la réglementation.
Conclusion et Recommandations
La conclusion est claire : la surface de risque des entreprises créée par l’IA s’élargit beaucoup plus rapidement que les structures de gouvernance et d’application destinées à la contenir.
Il a été précédemment commenté à quel point les Programmes de Gouvernance de l’IA sont importants pour atténuer les risques associés à l’utilisation de l’IA dans une organisation. Le rapport Cyera réitère cette conclusion. Si vous faites partie de la vaste majorité des organisations qui n’ont pas encore développé de Programme de Gouvernance de l’IA, il est temps de le faire une priorité absolue.