Une explosion agentique révèle un écart dans la sécurité et la gouvernance de l’IA
L’adoption de l’intelligence artificielle agentique a progressé plus rapidement que celle des modèles d’IA générative lors de leur sortie. Cela indique que les organisations ne se contentent pas de vouloir des outils de génération de contenu, mais aspirent également à des agents qui prennent des mesures concrètes.
Accélération de l’adoption des agents
Daryan “D” Dehghanpisheh, directeur de la sécurité de l’IA chez Palo Alto Networks, souligne que l’adoption des agents s’accélère en raison de leur capacité à stimuler la productivité et les revenus, les rendant inévitables dans les environnements d’entreprise. Cependant, cette rapidité dépasse la préparation en matière de gouvernance et de sécurité.
Défis de la gouvernance de la sécurité de l’IA
Le manque d’un cadre de gouvernance de la sécurité de l’IA demeure un défi majeur. Chaque fournisseur d’outils d’IA est questionné sur ses performances, sa sécurité, sa sûreté et sa gouvernance. Dehghanpisheh souligne que la sécurité, la sûreté et la gouvernance sont trois éléments distincts mais interconnectés, chacun ayant ses propres exigences.
Mesures de sécurité pour les actions des agents
Dans une interview vidéo avec Information Security Media Group, Dehghanpisheh a également abordé :
- La sécurisation des actions des agents par des contrôles de moindre privilège;
- La sécurité des modèles, les tests et les risques internes ;
- L’émergence de vulnérabilités universelles de l’IA et les lacunes de divulgation coordonnée.
Expérience et expertise de Daryan Dehghanpisheh
Dehghanpisheh est un cadre supérieur ayant plus de 20 ans d’expérience dans la technologie et la stratégie. Il a dirigé des équipes dans des secteurs allant des télécommunications à la finance. Actuellement, il est le directeur de la sécurité de l’IA chez Palo Alto Networks, où il recrute des experts en IA et apprentissage automatique, développement commercial et marketing numérique.