AI-BOMs : Un Guide Pratique sur les Bill of Materials pour l’IA
Un AI bill of materials (AI-BOM) est un inventaire complet de l’écosystème d’IA d’une organisation, comprenant des modèles d’IA, des données, des services, des infrastructures, et des dépendances tierces, ainsi que les relations entre eux.
Les AI-BOMs utilisent des formats structurés comme les extensions SPDX pour rendre les composants d’IA plus faciles à partager, auditer et comprendre au sein des équipes, semblable à un software bill of materials (SBOM). Contrairement à une simple liste, un AI-BOM capture comment les modèles sont reliés aux données, aux services, et aux environnements, fournissant la traçabilité nécessaire pour comprendre le fonctionnement des systèmes d’IA.
Différences entre AI-BOM et SBOM
Les AI-BOMs partagent la même fonction que les SBOMs, mais répondent aux complexités uniques des systèmes d’IA modernes. Contrairement à l’accent mis par un SBOM sur les composants logiciels statiques, les systèmes d’IA impliquent des modèles non déterministes, des algorithmes évolutifs, et des dépendances de données. La capture de ces complexités constitue la base pour des opérations de sécurité efficaces en IA.
Un AI-BOM s’appuie sur le concept de SBOM, en allant au-delà du code pour inclure des modèles, des ensembles de données, et des dépendances dynamiques—tout ce qui influence le comportement des systèmes d’IA.
Pourquoi les AI-BOMs sont-ils devenus essentiels ?
Les forces convergentes suivantes font des AI-BOMs un élément critique de la gouvernance responsable de l’IA :
- Exigences de transparence et de risque en IA : Les organisations doivent avoir une visibilité claire sur les actifs d’IA qu’elles utilisent et comment ces actifs peuvent introduire des vulnérabilités.
- Pression réglementaire : De nouvelles politiques, comme l’EU AI Act, nécessitent le maintien de dossiers détaillés sur les composants d’IA, leur utilisation, et leurs profils de risque associés.
- Préoccupations de sécurité de la chaîne d’approvisionnement : Les systèmes d’IA font face à des risques similaires aux attaques de logiciels, incluant des modèles compromis et des ensembles de données empoisonnés.
- Exigences de gouvernance interne : Les initiatives d’IA responsables nécessitent des mécanismes pour suivre la lignée des modèles et s’assurer que l’adoption de l’IA est alignée avec les valeurs de l’entreprise.
Exemple concret
En avril 2024, des chercheurs ont découvert des vulnérabilités critiques dans la plateforme d’AI-as-a-Service de Hugging Face, démontrant comment la visibilité d’un AI-BOM aide à détecter les risques de la chaîne d’approvisionnement avant que des attaquants ne puissent en tirer parti.
Composants clés d’un AI-BOM
Un AI-BOM documente l’ensemble des composants d’un système d’IA et leurs relations. Un AI-BOM complet inclut au minimum les sept composants suivants :
- Couche de données : Capture tous les actifs de données nécessaires pour l’entraînement et le stockage des modèles.
- Couche de modèle : Suit les modèles d’IA, leur métadonnées, et leur évolution.
- Couche de dépendances : Identifie les vulnérabilités potentielles dans la chaîne d’approvisionnement de l’IA.
- Couche d’infrastructure : Suit les ressources matérielles et cloud supportant les charges de travail d’IA.
- Sécurité et gouvernance : Évalue l’exposition et met en œuvre un accès de moindre privilège pour les systèmes d’IA.
- Personnes et processus : Soutient la responsabilité et la reproductibilité tout au long du cycle de vie de l’IA.
- Utilisation et documentation : Fournit un contexte sur le comportement et l’évolution des systèmes d’IA.
Fonctionnalités de sécurité des AI-BOMs
Les AI-BOMs soutiennent des cas d’utilisation clés et des avantages tout au long du cycle de vie de l’IA, notamment :
- Découverte et inventaire : Identifie les modèles, ensembles de données, et services fonctionnant à travers les environnements.
- Traçabilité et explicabilité : Permet aux organisations de comprendre comment les équipes construisent des modèles et où ils s’exécutent.
- Évaluation et priorisation des risques : Évalue l’exposition basée sur l’accès aux données sensibles.
- Gouvernance et conformité : Soutient les audits et exigences réglementaires avec un enregistrement structuré des composants d’IA.
Comment construire un AI-BOM avec Wiz
Développer un AI-BOM est simplifié avec Wiz, qui automatise la découverte et le suivi continu. Les capacités incluent :
- Découverte automatisée : Wiz découvre automatiquement les services d’IA et l’utilisation des modèles.
- Visibilité basée sur des graphes : Cartographie de chaque modèle et ressource cloud dans le Wiz Security Graph.
- Application des politiques : Permet aux équipes d’incorporer des vérifications automatisées dans les pipelines.
- Détection de dérive : Suit le comportement des composants pour détecter des changements non autorisés.
En conclusion, les AI-BOMs représentent un élément fondamental pour la gestion des risques en IA, permettant une compréhension approfondie des systèmes d’IA et leur gouvernance.