La gouvernance de l’IA : des garde-fous pour une innovation plus rapide
Avec l’adoption croissante de l’IA générative (GenAI) dans la région Asie-Pacifique, certaines organisations, notamment celles évoluant dans des secteurs non régulés, peuvent hésiter à mettre en œuvre des cadres de gouvernance, craignant que la bureaucratie ne freine l’innovation.
Cependant, il est soutenu que des limites claires sont essentielles pour la rapidité. Bien que la région soit à la pointe de l’utilisation de l’IA générative, la confiance des utilisateurs dans les résultats de l’IA peut rapidement s’effondrer, ce qui pourrait compromettre les initiatives d’IA. Établir des garde-fous de gouvernance peut aider à combler ce fossé de confiance.
Une idée reçue à déconstruire
Il existe souvent une idée fausse selon laquelle la gouvernance ralentit les initiatives d’IA. On observe plutôt le contraire. Les organisations qui avancent le plus rapidement sont celles qui ont déjà établi une forte position en matière de gouvernance de l’IA. La gouvernance de l’IA est comparée à des barrières de sécurité autoroutière. Tout comme ces barrières permettent aux véhicules de circuler en toute sécurité à grande vitesse, la gouvernance fournit la confiance nécessaire pour un développement rapide.
Pour aller plus vite, il est essentiel de comprendre où se situent les frontières. Les organisations qui établissent ces paramètres dès le début éliminent l’hésitation autour de l’innovation, car les équipes savent exactement ce qui est autorisé.
Le rôle de l’IA cachée
Un des moteurs de la gouvernance de l’IA est la montée de l’IA cachée, où les employés utilisent des outils d’IA non approuvés au travail. Des études révèlent que 77 % des professionnels de la sécurité ont observé des employés exposant des données d’entreprise à de grands modèles de langage (LLM). Ce comportement est rarement malveillant ; il survient généralement en raison d’un manque d’outils internes adéquats.
Les employés se tournent souvent vers des outils d’IA externes faute d’un accès fluide aux alternatives internes. La solution ne consiste pas simplement à interdire les outils externes, mais à fournir des options internes intégrées aux protocoles de gouvernance nécessaires.
Un changement de perspective
Les discussions sur la gouvernance de l’IA, souvent initiées par les directeurs des données (CDO), ont été portées au sein des conseils d’administration, motivées non seulement par les risques de sécurité mais aussi par les coûts en spirale associés aux expérimentations d’IA non régulées. Un exemple illustratif concerne un client dont une unité commerciale a accumulé des coûts inattendus.
Un projet d’IA de 3 millions de dollars, lancé il y a deux ans, a vu ses coûts mensuels atteindre 47 000 dollars sans preuve claire de retour sur investissement, poussant les équipes financières et d’audit interne à s’impliquer davantage dans la gouvernance de l’IA pour gérer les risques techniques et financiers.
Éviter les projets internes obsolètes
Certaines entreprises ont commencé à développer leurs propres LLM pour des raisons de gouvernance ou de localisation, mais il est conseillé de s’en méfier. Le rythme rapide des changements technologiques rend souvent obsolètes les projets internes avant leur achèvement. Un responsable d’analytique a passé six mois à construire un LLM interne, pour voir son travail rendu moins efficace par une mise à jour commerciale d’OpenAI quelques mois plus tard.
Il est préférable d’adopter une approche de plateforme où les exigences de gouvernance, telles que celles imposées par l’UE AI Act, sont intégrées dans l’infrastructure. Cela permet aux entreprises de brancher les derniers modèles tout en restant conformes.
La valeur d’une plateforme comme Dataiku réside dans son intégration des dernières technologies, permettant aux équipes d’utiliser ce dont elles ont besoin actuellement, plutôt que d’essayer de construire quelque chose qui sera probablement obsolète dans six mois.
Perspectives d’avenir
Selon Gartner, les dépenses mondiales en IA devraient atteindre 2,52 trillions de dollars en 2026, avec une augmentation de 44 % d’une année sur l’autre. Les investissements dans des plateformes d’IA pour la science des données et l’apprentissage machine, comme Dataiku, devraient également passer de 21,9 milliards de dollars en 2025 à 44,5 milliards de dollars en 2027.
Il est essentiel de noter que l’adoption de l’IA est fondamentalement façonnée par la préparation du capital humain et des processus organisationnels, et non simplement par l’investissement financier. Les organisations avec une plus grande maturité expérimentale et une meilleure conscience d’elles-mêmes privilégient de plus en plus les résultats prouvés par rapport aux potentiels spéculatifs.
Cette dynamique d’adoption de l’IA dans la région Asie-Pacifique continue de se renforcer, avec des exemples notables comme le groupe Woolworths d’Australie, qui améliorera son assistant de shopping numérique, Olive, en utilisant la nouvelle plateforme d’IA de Google Cloud, Gemini Enterprise.