La gouvernance en retard alors que l’IA de l’ombre redéfinit les flux de travail collaboratifs
Parfois, l’IA de l’ombre se manifeste de manière évidente. Vous assistez à une réunion et remarquez un invité dont vous ne vous rappelez pas avoir invité : un bot inconnu qui transcrit et résume l’appel.
D’autres fois, elle est moins visible. Un représentant commercial colle un transcript de réunion dans un assistant AI externe, ou une équipe de projet utilise un copilote de navigateur pour résumer des fils de discussion sur Slack.
Ces types d’outils font partie de l’IA de l’ombre, l’utilisation d’assistants alimentés par IA sans la connaissance ni la supervision de l’informatique (IT), et leur présence se propage rapidement dans les environnements de communication unifiée (UC).
Les risques de l’IA de l’ombre dans les environnements UC
L’IA de l’ombre se manifeste de manière inattendue dans les UC, selon David Matalon, PDG et fondateur de Venn, une entreprise de logiciels. “Bien que ces outils augmentent l’agilité et la productivité, ils interagissent également avec les données de l’entreprise de manière que l’IT ne peut pas toujours contrôler,” explique Matalon.
Les employés utilisent l’IA pour des tâches telles que le brainstorming, la rédaction, ou la génération de résumés de réunions. Cette utilisation se fait souvent avec la connaissance de tous les membres de l’équipe. Jonathan Mckenzie, chef de projet principal chez 8×8, souligne que “l’IA de l’ombre apparaît parce que les gens veulent des moyens de travail plus rapides — résumés, assistants, réponses rapides. Mais lorsque cela se produit en dehors de la gouvernance, cela peut créer des risques sérieux en matière de cybersécurité et de conformité.”
Pourquoi l’IA de l’ombre représente-t-elle un risque plus important que l’IT traditionnel ?
En moyenne, les organisations sont en retard sur la gouvernance liée à l’IA. Il existe un écart significatif entre les ambitions en matière d’IA des entreprises et leur gouvernance opérationnelle, avec un peu plus d’un tiers d’entre elles manquant encore de fonctions de gouvernance dédiées. Cet écart de gouvernance présente plusieurs risques liés aux UC, notamment :
- Fuite de données : Les employés saisissent des données confidentielles dans des outils AI externes, qui peuvent les stocker, les réutiliser ou les utiliser pour l’entraînement de modèles.
- Exposition à la conformité : L’IA de l’ombre peut contourner des flux de travail régulés et des contrôles de confidentialité, ce qui pourrait violer des mandats de conformité ou des cadres réglementaires comme le RGPD ou HIPAA.
- Opacité des décisions : L’IA peut influencer des documents, des résultats de réunions, des résumés ou d’autres documents commerciaux sans transparence ni autorisation.
- Manque de visibilité : Les équipes UC ne savent souvent pas quels outils AI les employés utilisent, ce qui impacte leur capacité à surveiller les risques ou à faire respecter les politiques.
Comment les dirigeants UC peuvent-ils répondre ?
Les dirigeants UC ne doivent pas accepter passivement les risques que l’IA de l’ombre crée. La découverte et la visibilité sont les premières étapes pour répondre à l’IA de l’ombre dans les UC, car la gouvernance nécessite une visibilité sur l’utilisation quotidienne de l’IA.
Les équipes IT peuvent identifier les bots AI participant aux réunions, suivre l’utilisation de l’IA basée sur le navigateur sur leurs réseaux, et surveiller les environnements de collaboration pour l’utilisation d’outils et de fonctionnalités alimentés par IA.
Il est également crucial d’intégrer la gouvernance AI dans les plateformes UC, avec des politiques appliquées là où le travail se déroule : dans les discussions, lors des réunions virtuelles et pendant la collaboration sur des documents.
Les organisations doivent également expliquer quels outils AI sont approuvés et pourquoi. “Les dirigeants UC doivent essayer de rester continuellement transparents,” dit Mckenzie.
Pour prévenir l’utilisation de l’IA de l’ombre, il faut fournir aux employés des outils AI approuvés comme des copilotes et des assistants de réunion sanctionnés, intégrés à l’identité de l’entreprise et à la conformité.
En conclusion, l’IA de l’ombre est un signal de gouvernance. Ce n’est pas seulement un risque, mais une preuve que les employés souhaitent utiliser ces outils dans leurs flux de travail quotidiens. Les véritables défis pour les dirigeants UC consistent à restaurer la visibilité, intégrer la gouvernance dans les plateformes de collaboration et permettre une productivité améliorée grâce à l’IA en toute sécurité.