Shadow AI : Un nouveau défi de gouvernance pour les organisations européennes
Les employés adoptent des outils génératifs au travail plus rapidement que les organisations ne peuvent les approuver ou les sécuriser, donnant lieu à ce qui est de plus en plus décrit comme le « shadow AI ». Contrairement aux formes antérieures de shadow IT, ces outils peuvent transformer des données, inférer des informations sensibles et déclencher des actions automatisées au-delà des contrôles établis.
Une question de visibilité et de contrôle
Pour les organisations européennes, la question n’est plus de savoir si l’IA doit être utilisée, mais comment regagner visibilité et contrôle sans compromettre la productivité. Le shadow AI apparaît de plus en plus à l’intérieur des plateformes approuvées, des extensions de navigateur et des outils de développement, élargissant les risques au-delà de la fuite de données.
Les mises en garde des experts en sécurité
Les experts en sécurité avertissent que les interdictions générales poussent souvent l’utilisation de l’IA encore plus dans l’ombre, réduisant la transparence et la confiance. Au lieu de cela, les recommandations des organismes de cybersécurité de l’UE encouragent de plus en plus l’activation responsable à travers des politiques claires, une sensibilisation du personnel et des contrôles techniques ciblés.
Mesures de mitigation clés
Les mesures de mitigation essentielles incluent :
- Cartographier l’utilisation de l’IA à travers les outils approuvés et informels,
- Définir des données de prompt sûres,
- Offrir des alternatives sanctionnées,
- Avec des journaux, un accès au minimum de privilèges, et des étapes d’approbation devenant essentielles alors que l’IA agit à travers les flux de travail.
Souhaitez-vous en savoir plus sur l’IA, la technologie et la diplomatie numérique ? Si oui, n’hésitez pas à interroger notre chatbot Diplo !