Adoption de l’IA et risques de confidentialité
Les dirigeants en technologie et en sécurité à travers l’Australie et la Nouvelle-Zélande alertent que l’adoption rapide de l’IA redéfinit fondamentalement le risque de confidentialité des données. Les outils d’IA non régulés et les agents autonomes créent de nouvelles surfaces d’attaque massives et exposent des lacunes critiques dans les contrôles d’identité et d’accès.
Une préoccupation croissante pour la confidentialité
À l’occasion de la Journée de la Confidentialité des Données, des leaders de sociétés comme Qualys, CyberArk et SailPoint ont souligné que la confidentialité ne peut plus être considérée comme une simple question de conformité. Elle doit désormais aborder la responsabilité dans des environnements où les humains et les machines partagent la prise de décision.
Les risques de l’IA non gouvernée
Sam Salehi de Qualys a noté que l’utilisation de l’IA fantôme par les employés, qui consiste à déposer des données sensibles dans des outils non approuvés, crée une surface de risque non observée que la sécurité traditionnelle ne peut gouverner.
Thomas Fikentscher de CyberArk a mis en avant le gap de responsabilité alors que les systèmes d’IA prennent des décisions autonomes. Il appelle les organisations à sécuriser les agents d’IA en tant qu’identités hautement privilégiées avec un accès limité et une surveillance continue.
Un écart de gouvernance alarmant
Gary Savarino de SailPoint a signalé un écart de gouvernance croissant, où 82 % des entreprises utilisent des agents d’IA, mais moins de la moitié disposent de contrôles adéquats. Cela permet aux attaquants d’exploiter des identités sur-privilégiées plutôt que des vulnérabilités techniques.
En conclusion, alors que l’adoption de l’IA continue de croître, les entreprises doivent réévaluer leurs stratégies de gouvernance de la confidentialité et de la sécurité pour s’adapter à ce nouveau paysage technologique.