Les organisations se tournent vers une gouvernance « Zero-Trust » face à la montée des données AI
Gartner avertit que 50 % des entreprises doivent adopter des politiques de données à zéro confiance d’ici 2028 pour lutter contre l’« effondrement des modèles » causé par l’afflux de données synthétiques non vérifiées.
Selon une nouvelle prévision de Gartner, Inc., la moitié des organisations mondiales adopteront une posture de « zéro confiance » pour la gouvernance des données d’ici 2028. Ce changement intervient alors que le contenu généré par l’IA non vérifié commence à saturer les écosystèmes de données, rendant de plus en plus difficile la distinction entre les informations humaines et synthétiques.
La menace de l’« Effondrement des Modèles »
La prolifération des données synthétiques pose un risque significatif pour la fiabilité des futurs Modèles de Langage de Grande Taille (LLMs). Actuellement, les modèles sont entraînés sur de vastes ensembles de données extraites du web, de publications de recherche et de code. Cependant, à mesure que les sorties de l’IA sont de plus en plus réintroduites dans les boucles d’entraînement de nouveaux modèles, l’industrie fait face à un phénomène connu sous le nom d’« effondrement des modèles ».
Cela se produit lorsque les outils d’IA commencent à refléter les erreurs ou les biais de leurs prédécesseurs plutôt que la réalité objective. Malgré ces risques, l’appétit des entreprises pour l’intelligence artificielle reste insatiable. Selon l’enquête CIO et Exécutifs Technologiques de Gartner pour 2026, 84 % des répondants prévoient d’augmenter le financement pour l’IA Générative (GenAI) cette année.
Un champ de mines réglementaire émergent
Le rapport met également en lumière un champ de mines réglementaire émergent. Alors que certaines juridictions devraient imposer des mandats stricts de données « sans IA », d’autres pourraient adopter des cadres plus flexibles. Gartner suggère que le succès dans ce paysage en évolution dépendra d’une gestion active des métadonnées — la capacité à taguer, cataloguer et alerter les organisations lorsque les données sont obsolètes ou nécessitent une recertification.
Recommandations stratégiques
Pour atténuer les risques liés aux données non vérifiées, Gartner conseille aux organisations de prendre plusieurs mesures immédiates, notamment :
- Nommer un Leader en Gouvernance de l’IA : Un rôle dédié pour superviser les politiques et la conformité à zéro confiance.
- Collaboration Inter-Fonctionnelle : Aligner les équipes de cybersécurité, d’analyse de données et d’éthique pour réaliser des évaluations de risques complètes.
- Moderniser les Pratiques de Métadonnées : Mettre en œuvre des systèmes automatisés pour identifier et signaler en temps réel le contenu généré par l’IA inexact ou biaisé.
- Adopter des Métadonnées Actives : Utiliser des alertes en temps réel pour les données obsolètes ou non vérifiées afin d’éviter que du contenu inexact et biaisé n’atteigne des systèmes critiques.