Surmenage de l’IA pour accélérer l’adoption de la gouvernance des données zéro confiance
Gartner a averti que le volume croissant de données générées par l’IA menace la fiabilité future des grands modèles linguistiques (LLMs).
À tel point qu’il prédit que 50 % des organisations adopteront une posture de zéro confiance en matière de gouvernance des données d’ici 2028 en raison de la prolifération de données générées par l’IA non vérifiées.
Investissement dans l’IA générative
Selon les données d’une récente enquête de 2026 auprès des CIO et des dirigeants technologiques, 84 % s’attendent à ce que leurs entreprises augmentent le financement pour l’IA générative. À mesure que les organisations accélèrent l’adoption et l’investissement dans les initiatives d’IA, le volume de données générées par l’IA continuera de croître.
Cela signifie que les générations futures de LLMs seront de plus en plus formées sur les sorties de modèles précédents, augmentant le risque de « crash de modèle », où les réponses des outils d’IA peuvent ne plus refléter la réalité.
La nécessité d’une posture de zéro confiance
« Les organisations ne peuvent plus faire confiance de manière implicite aux données ou supposer qu’elles ont été générées par des humains. Alors que les données générées par l’IA deviennent omniprésentes et indiscernables des données créées par des humains, une posture de zéro confiance établissant des mesures d’authentification et de vérification est essentielle pour protéger les résultats commerciaux et financiers », a déclaré un représentant de Gartner.
Réglementations et exigences
Le représentant a également souligné que « les exigences réglementaires pour vérifier les données « sans IA » devraient s’intensifier dans certaines régions. Cependant, ces exigences peuvent différer considérablement selon les géographies, certaines juridictions cherchant à imposer des contrôles plus stricts sur le contenu généré par l’IA, tandis que d’autres pourraient adopter une approche plus flexible. »
Formation des modèles linguistiques
Les LLMs sont généralement formés à l’aide de données extraites du web, ainsi que d’une variété d’autres sources, y compris des livres, des dépôts de code et des articles de recherche. Certaines de ces sources contiennent déjà du contenu généré par l’IA, et si la tendance actuelle se poursuit, presque toutes seront finalement remplies de données générées par l’IA.
Gestion des métadonnées et outils nécessaires
Dans ce contexte réglementaire en évolution, toutes les organisations auront besoin de la capacité à identifier et à étiqueter les données générées par l’IA. Le succès dépendra de la possession des bons outils et d’une main-d’œuvre qualifiée en gestion de l’information et des connaissances, ainsi que de solutions de gestion des métadonnées qui sont essentielles pour le catalogage des données.
En conséquence, Gartner souligne que des pratiques proactives de gestion des métadonnées deviendront un facteur de différenciation clé, car elles permettront aux organisations d’analyser, d’alerter et d’automatiser la prise de décision à travers tous leurs actifs de données.