Une manière plus intelligente et plus sûre de faire fonctionner l’IA ? LōD Technologies de Vancouver parie là-dessus
Le Canada fait face à un problème d’IA, mais pas celui que l’on pourrait attendre. Les talents et la technologie sont présents, avec l’IA générative qui devrait ajouter environ 187 milliards de dollars chaque année à l’économie canadienne d’ici 2030. Pourtant, les organisations restent hésitantes quant à son adoption.
Selon Statistiques Canada, seulement 12,2 % des entreprises canadiennes ont intégré l’IA dans leurs opérations au cours de l’année passée, plaçant le Canada parmi les plus bas au niveau des concurrents mondiaux et aggravant les défis de productivité existants.
Les obstacles à l’adoption de l’IA
Qu’est-ce qui bloque l’adoption de l’IA ? Une grande partie de la réponse réside dans la gestion des coûts énergétiques et des performances. Les outils d’IA comme les modèles de langage de grande taille et les systèmes d’apprentissage profond nécessitent une puissance de calcul massive pour traiter les demandes. L’Agence internationale de l’énergie estime que la demande mondiale d’électricité des centres de données pourrait plus que doubler d’ici 2030, l’IA étant le principal moteur.
Pour les organisations qui exploitent l’IA à grande échelle, chaque demande devient une décision commerciale importante. Chaque requête d’IA entraîne un coût, et ce coût augmente lorsque des réponses plus rapides sont requises, ce qui consomme plus de ressources de calcul et d’énergie. Pour celles qui gèrent des milliers, voire des millions de demandes à travers différents serveurs, chacun ayant des exigences énergétiques et des coûts opérationnels distincts, les dépenses peuvent rapidement s’accumuler.
Sans un moyen efficace de gérer ces compromis, il est possible de se retrouver à payer des millions de factures chaque mois.
Construire un contrôle dans l’IA
La société LōD Technologies a vu une opportunité dans ce défi. Fondée en 2021, LōD aide les centres de données à optimiser les coûts énergétiques sur les marchés de l’électricité dérégulés. Ils ont développé des outils permettant aux opérateurs de répondre en temps réel, fonctionnant avec plus de puissance de calcul lorsque l’énergie est bon marché et réduisant lorsque les prix augmentent.
Environ deux ans plus tard, alors que l’IA générative est entrée dans le courant dominant, LōD a commencé à explorer comment appliquer son expertise en énergie aux charges de travail d’IA.
En construisant des solutions, l’équipe a rencontré un problème inattendu. Le routage des demandes d’IA à travers plusieurs serveurs soulevait une question cruciale de conformité pour les clients traitant des informations sensibles : où ces données finissent-elles exactement ?
La plateforme CLōD
Cette réalisation a conduit à CLōD, une plateforme d’inférence IA lancée plus tôt cette année. Fonctionnant au niveau d’inférence, CLōD agit comme une passerelle intelligente entre les entreprises et les modèles qu’elles utilisent, qu’ils soient hébergés par OpenAI, Anthropic, Google ou exécutés sur site.
Contrairement aux outils spécialisés dans la gouvernance ou l’optimisation des coûts, CLōD offre un contrôle complet sur plusieurs dimensions, y compris la gestion des coûts, l’optimisation de la latence, le routage des modèles et la conformité. Les utilisateurs définissent leurs propres règles concernant les données pouvant quitter leur environnement, quels serveurs peuvent être utilisés et comment les modèles doivent se comporter par demande. La plateforme les applique automatiquement.
Optimisation énergétique et gouvernance
La capacité d’optimisation énergétique sera bientôt mise en service. Basée sur l’expertise de LōD en gestion énergétique des centres de données, elle est conçue pour gérer intelligemment les ressources de calcul en fonction des prix de l’énergie en temps réel.
Cette année, LōD a été sélectionnée pour le premier programme d’accélérateur AI for Energy de Google, parmi 15 startups nord-américaines. Au cours de quatre mois, la société a travaillé avec les équipes de Google pour peaufiner l’approche de la plateforme en matière d’optimisation énergétique et de gouvernance.
Vers une adoption prévisible de l’IA
LōD a vu son effectif passer de 8 à 18 employés au cours de l’année écoulée, et un nouveau tour de financement est prévu pour 2026. Le CEO attribue cette croissance à la main-d’œuvre talentueuse de Vancouver, largement alimentée par les universités locales.
En regardant vers l’avenir, alors que de plus en plus d’organisations cherchent à combler l’écart d’adoption de l’IA, la solution réside dans la prévisibilité. Un meilleur contrôle des coûts, de la latence, du routage et de la gouvernance permettra aux entreprises d’avancer avec confiance, sachant exactement comment leurs systèmes d’IA se comporteront.
Pour les secteurs fortement réglementés qui sont restés sur la touche, cette prévisibilité pourrait faire toute la différence entre rester coincé en phase pilote et mettre l’IA au travail.
« Nous construisons une infrastructure décentralisée pour une IA fiable », a déclaré Naseri. « Alors que l’utilisation de l’IA augmente et que les préoccupations énergétiques deviennent de plus en plus importantes, nous sommes là pour y faire face et, par conséquent, apporter cette capacité de calcul IA fiable au public et aux développeurs. »