50 % des organisations prêtes à adopter une gouvernance des données basée sur le zéro-trust face à la montée des données générées par IA non vérifiées
À la lumière de la prévalence croissante des données non vérifiées créées par l’intelligence artificielle, il est prédit que la moitié (50 %) de toutes les organisations mondiales passeront à une posture de zéro-trust pour la gouvernance des données d’ici 2028.
La fin de la confiance implicite
Selon un responsable de Gartner, l’ère où les organisations pouvaient se fier à la confiance implicite ou présumer que les données proviennent de sources humaines est révolue. L’idée d’adopter une approche de zéro-trust est devenue essentielle, car l’information produite par l’IA devient de plus en plus courante et difficile à distinguer des contenus créés par des humains.
Les risques liés aux données générées par l’IA
Les données générées par l’IA augmentent les risques d’échecs de modèles et élargissent les exigences de conformité. L’architecture sous-jacente des grands modèles de langage (LLMs) repose traditionnellement sur d’énormes ensembles de données acquises par web-scraping et complétées par divers dépôts professionnels et académiques.
Cependant, plusieurs de ces sources fondamentales sont déjà imprégnées de contenu d’origine IA. Si ces tendances persistent, la majorité des dépôts de données numériques seront inévitablement saturés d’informations produites par l’IA.
Projections financières
Selon l’enquête 2026 de Gartner sur les CIO et les dirigeants technologiques, 84 % des participants s’attendent à une augmentation du financement des initiatives IA générative au cours de l’exercice fiscal 2026. Cela entraîne une montée continue du volume de données synthétisées par l’IA.
Les itérations futures des LLMs seront formées sur les résultats traités de leurs prédécesseurs, intensifiant ainsi la menace de l’effondrement des modèles, un phénomène technique où la fiabilité des réponses de l’IA se dégrade.
Besoins en identification des données IA
La banalisation croissante du contenu généré par l’IA devrait entraîner un durcissement des mandats réglementaires concernant la vérification des données exemptes d’IA dans certaines régions. La capacité d’identifier et de marquer les données générées par l’IA sera essentielle pour toutes les organisations.
Le succès dépendra de la mise en place des bons outils et d’une main-d’œuvre compétente en gestion de l’information et des connaissances, ainsi que de solutions de gestion des métadonnées essentielles pour le catalogage des données.
Stratégies pour gérer les risques des données non vérifiées
Les organisations devraient examiner plusieurs approches stratégiques pour aborder les risques liés aux données non vérifiées :
- Désigner un leader en gouvernance de l’IA : Créer un rôle spécifique dédié à la gouvernance de l’IA, qui englobe les politiques de zéro-trust, la gestion des risques liés à l’IA et les opérations de conformité.
- Encourager la collaboration interfonctionnelle : Former des équipes interfonctionnelles comprenant des experts en cybersécurité, en données et en analyses pour réaliser des évaluations approfondies des risques.
- Utiliser les politiques de gouvernance existantes : Renforcer les cadres de gouvernance des données et des analyses en mettant à jour les politiques de sécurité, de gestion des métadonnées et d’éthique.
- Mettre en œuvre des pratiques de gestion des métadonnées actives : Cela permet des alertes en temps réel lorsque les données deviennent obsolètes, permettant aux organisations d’identifier rapidement les systèmes critiques à risque.
En conclusion, l’adoption d’une approche de zéro-trust et la gestion proactive des données générées par l’IA sont essentielles pour protéger l’intégrité des entreprises à l’ère numérique.