Lineaje ajoute la capacité d’appliquer automatiquement des politiques de gouvernance aux composants d’IA
Cette semaine, Lineaje a dévoilé une plateforme qui découvre automatiquement les composants d’intelligence artificielle (IA) d’une application, définit des politiques de sécurité et de gouvernance, puis génère de manière autonome des garde-fous.
Présentation de la plateforme UnifAI
Au cœur de la plateforme Lineaje UnifAI se trouve un ensemble de capacités d’IA intégrées à un cadre d’orchestration pour appliquer des politiques de gouvernance, qui ont été intégrées dans un serveur Model Context Protocol (MCP) pour interagir avec les outils de codage IA.
Agents de découverte
Les Discovery Agents développés par Lineaje cartographient continuellement un AI Bill of Materials (AIBOM) pour identifier chaque modèle, agent, serveur MCP, dépendance, compétences et connexions de données. De plus, les agents IA élaborent un modèle de Kill-Chain IA pour contrer les menaces connues, en utilisant les défenses mises en place par une équipe DevSecOps.
Intentions de comportement des applications
Le PDG de Lineaje, Javed Hasan, a déclaré que cette approche permet à la plateforme de dériver l’intention de comportement des applications à partir des outils utilisés pour concevoir et construire une application, qu’elle utilise ensuite pour générer les politiques de gouvernance appropriées. Les équipes DevSecOps peuvent également télécharger des documents de gouvernance internes qui sont convertis en politiques exécutoires.
Adaptation aux Menaces émergentes
Les laboratoires de recherche en IA de Lineaje publient en continu de nouvelles politiques pour répondre aux menaces émergentes dans les environnements d’IA agentique. Ces mises à jour s’avéreront cruciales, car les tactiques et techniques créées pour exploiter les logiciels d’IA continuent d’évoluer rapidement.
Évaluation des risques en temps réel
Armée de ces informations, une équipe DevSecOps peut compter sur la plateforme UnifAI pour cartographier en temps réel chaque système, connexion et motif de comportement afin d’évaluer les risques. La plateforme recommande également automatiquement des politiques pour la protection des données, la gestion des identités et des accès, l’alignement sur la conformité, la prévention des menaces et la remédiation des vulnérabilités, et ce, pour éviter que les équipes aient besoin d’écrire des politiques de zéro.
Vers une automatisation accrue
Finalement, chaque équipe DevSecOps devra déterminer dans quelle mesure elle souhaite s’appuyer sur l’IA pour générer et appliquer des politiques de gouvernance. Cependant, avec le temps, ce processus deviendra automatisé à mesure que la confiance dans l’IA augmentera.
Importance de l’intégration des politiques de gouvernance
Mitch Ashley, vice-président et responsable de la pratique de l’ingénierie des cycles de vie des logiciels au sein de Futurum Group, a souligné que la plateforme Lineaje UnifAI illustre comment la gouvernance de l’IA est opérationnalisée. La découverte automatisée des composants IA, la génération de politiques et l’application de garde-fous peuvent désormais être intégrées directement dans le flux de développement, positionnant la gouvernance comme une fonction continue, s’étendant sur tout le cycle de vie.
Les équipes DevSecOps gagnent également en application des politiques d’une manière liée au comportement réel de l’application, dérivé des outils et dépendances utilisés pour la construire. À mesure que les composants d’IA agentique se multiplient dans la pile, les équipes qui s’appuient sur l’autorisation manuelle des politiques feront face à une exposition croissante ; la découverte automatisée de l’AIBOM et la modélisation de la chaîne de destruction deviennent des exigences de base, et non des améliorations optionnelles.
Les équipes DevSecOps devront déterminer dans quelle mesure elles réorganiseront leurs flux de travail à mesure que de plus en plus de composants d’IA seront intégrés dans leurs applications. Malheureusement, beaucoup de ces composants sont vulnérables à des prompts malveillants qui sont relativement faciles à créer. En l’absence de politiques de gouvernance, le niveau de chaos qui pourrait être causé est désormais bien plus grand que jamais.