Nouvelle exposition aux risques de l’adoption rapide de l’IA générative que les organisations doivent adresser
L’IA générative (GenAI) est passée d’une simple curiosité à une force centrale dans la technologie d’entreprise. Sa capacité à générer du texte, du code, des images et des insights à la demande en a fait un outil indispensable pour les employés désireux de simplifier la complexité et d’accélérer la productivité. Cependant, cette innovation s’accompagne de risques considérables.
Dans des discussions avec des dirigeants et des responsables de la gouvernance de l’IA à travers diverses industries, un thème émerge à maintes reprises : la sécurité des données est passée d’une préoccupation clé à un point focal de leur stratégie et constitue désormais le défi majeur de l’adoption de l’IA. Contrairement aux logiciels traditionnels ou même aux vagues précédentes d’apprentissage automatique, l’IA générative modifie fondamentalement le processus de sécurisation des données au sein d’une organisation.
Des études récentes du MIT ont révélé que 95% des projets pilotes d’IA générative échouent. Ce n’est pas en raison de la faiblesse de la technologie, mais parce que les entreprises manquent des cadres de gouvernance et de sécurité nécessaires pour opérationnaliser l’IA générative de manière appropriée et responsable. Dans une autre étude du MIT, les dirigeants d’entreprise ont cité la sécurité des données comme le principal risque commercial et de sécurité entravant une adoption plus rapide de l’IA.
Expositions liées à l’IA générative
L’IA générative crée une surface de données vaste et en constante expansion, compliquant la gouvernance et la sécurité des données. Voici quelques-unes des façons dont cela se manifeste :
- Fuite des entrées : L’IA générative peut ingérer des données sous leur forme brute, y compris des textes, des images, de l’audio et des données structurées. Les utilisateurs peuvent diriger les outils IA vers de nouveaux ensembles de données avec un minimum d’effort.
- Exposition des sorties : Les modèles génératifs ne se contentent pas de consommer, ils synthétisent également. Un prompt peut exposer des insights sans autorisation appropriée.
- Accessibilité sans supervision : Les systèmes traditionnels nécessitaient un onboarding des fournisseurs et des provisions IT. Aujourd’hui, l’IA générative est intégrée partout, permettant aux employés de l’adopter instantanément, contournant ainsi la gouvernance.
- Risques liés à la chaîne d’approvisionnement de deuxième niveau : Un fournisseur peut sembler sécurisé, mais il s’appuie souvent sur des sous-traitants qui introduisent leurs propres politiques.
- Gaps de gouvernance dans les données d’apprentissage : Une fois les données intégrées dans un modèle d’IA, le contrôle est effectivement perdu.
- Risques liés au code d’application : L’IA écrit de plus en plus le code sous-jacent aux systèmes d’entreprise, ce qui peut introduire des dépendances non sécurisées.
Addressing GenAI Risk
Alors que l’IA générative est déjà intégrée dans les flux de travail des entreprises, la question n’est pas de savoir si l’adopter, mais comment le faire de manière responsable. L’adoption de l’IA générative sans gouvernance risque d’entraîner des violations coûteuses, des pénalités réglementaires et des dommages à la réputation.
Une gouvernance efficace de l’IA générative nécessite une visibilité contextuelle sur les données, leur localisation, et qui a accès. Les entreprises doivent surveiller les outils utilisés, les prompts saisis et s’assurer que des données sensibles ne quittent pas leur environnement. Cela leur permettra d’appliquer des contrôles appropriés pour surveiller les prompts et les sorties en temps réel.
En somme, l’IA générative est une nouvelle couche de risques et d’opportunités pour les entreprises. La gestion de ces risques nécessite la compréhension que la sécurité n’est pas un frein à l’innovation, mais plutôt la fondation qui rend l’innovation sûre.