LatticeFlow AI et SAP : Une Collaboration pour Contrôler les Risques de l’IA
La collaboration entre LatticeFlow AI, une entreprise suisse de deep-tech, et SAP, un leader mondial des applications d’entreprise et de l’IA, vise à permettre aux entreprises de gérer les risques liés à l’IA de manière efficace. Cette initiative répond à la nécessité croissante d’évaluations techniques approfondies et de surveillance continue des systèmes d’IA dans un environnement de production.
Évaluation des Risques Techniques
Avec l’accélération de l’adoption de l’IA, la gestion des risques ne peut plus se contenter de politiques de haut niveau ou de listes de contrôle manuelles. Les entreprises ont besoin de preuves techniques qui reflètent la performance et l’évolution des systèmes d’IA.
Grâce à cette collaboration, les entreprises utilisant des solutions SAP auront accès à la plateforme LatticeFlow AI, désormais disponible sur le SAP Store. Cette plateforme permet de traduire les exigences de la norme ISO/IEC 4200x en évaluations techniques approfondies, applicables de manière cohérente à tous les systèmes d’IA développés ou opérés au sein de l’écosystème SAP.
Conformité avec la Réglementation de l’IA
Les évaluations techniques soutiennent également la conformité avec le Règlement de l’IA de l’UE en fournissant des preuves objectives et vérifiables pour la gestion et la surveillance des risques liés à l’IA.
Évaluation des Systèmes d’IA Autonomes
La plateforme LatticeFlow AI prend en charge l’évaluation technique des systèmes d’IA autonomes, y compris les modèles de base et les systèmes d’IA personnalisés tels que les chatbots. Ces évaluations suivent l’évolution de la performance, de la sécurité et de la fiabilité des modèles au fur et à mesure qu’ils sont personnalisés ou intégrés dans des systèmes d’IA sur mesure.
Importance de l’Évidence Technique
Dans un contexte où les entreprises combinent des modèles propriétaires, tiers et open-weight, la nécessité d’une preuve technique devient cruciale. Dr. Sean Kask, Directeur de la Stratégie IA chez SAP, souligne : « Les organisations ont besoin de preuves techniques pour comprendre et gérer l’évolution des risques en pratique. »
Dr. Petar Tsankov, PDG et co-fondateur de LatticeFlow AI, ajoute que « la gestion de la sécurité et des risques de l’IA nécessite une compréhension approfondie du comportement des systèmes d’IA, et non de simples tableaux de bord. »
Vers un Avenir Standardisé pour la Gouvernance de l’IA
En étendant ces évaluations techniques à travers les modèles et les environnements d’entreprise, cette collaboration anticipe la mise en œuvre d’une gouvernance de l’IA à grande échelle dans divers secteurs. Cela établit des attentes pour ce qui deviendra une pratique standard à mesure que les systèmes d’IA continueront d’évoluer.
LatticeFlow AI se positionne ainsi comme un acteur clé dans la gouvernance de l’IA, en proposant des évaluations techniques qui permettent des décisions basées sur des preuves, tout en aidant les entreprises à adopter l’IA en toute confiance.