Vision techno-légale de l’Inde pour la gouvernance de l’IA : Favoriser la protection réglementaire et l’innovation ensemble
Bengaluru : L’Inde jette les bases de la manière dont l’intelligence artificielle (IA) doit être développée, déployée et réglementée dans le pays, avec un objectif clair : protéger les citoyens tout en encourageant l’innovation. Dans cette direction, le Bureau du Conseiller Scientifique Principal (OPS) du Gouvernement indien a publié un Document Blanc intitulé « Renforcer la gouvernance de l’IA à travers un cadre techno-légal », décrivant la vision de l’Inde pour construire un écosystème IA digne de confiance, transparent, responsable et favorable à l’innovation.
Approche techno-légale
Au cœur du document se trouve le concept d’une approche techno-légale pour la gouvernance de l’IA. Cela signifie que la réglementation de l’IA, y compris les protections légales, les contrôles techniques et la surveillance institutionnelle, doit être intégrée directement dans les systèmes d’IA dès la phase de conception et de développement. Le Conseiller Scientifique Principal, le Professeur Ajay Kumar Sood, a déclaré que cette approche offre une voie pratique en intégrant la sécurité, la responsabilité et la conformité dans les systèmes d’IA par conception.
En mettant en œuvre cette approche, le Gouvernement indien renforce également les règles pour lutter contre les deepfakes et autres contenus générés par l’IA sous des règlements informatiques amendés, exigeant des plateformes qu’elles étiquettent clairement les médias générés par l’IA ou synthétiques et qu’elles retirent tout contenu deepfake nuisible dans un délai de trois heures après signalement par les autorités.
Gestion des risques de l’IA
Le document blanc prône la gestion des risques de l’IA sans étouffer l’innovation ou le progrès. Il décompose la gouvernance de l’IA en domaines clairs et pratiques, y compris :
- Ce que signifie réellement un cadre techno-légal pour l’IA
- Assurer que l’IA est sûre et fiable tout au long de son cycle de vie — de la conception au déploiement
- Le rôle des outils techniques dans l’application de la gouvernance
- Comment l’Inde peut mettre en œuvre la gouvernance de l’IA dans différents secteurs
- Établir des mécanismes de conformité, de suivi et de responsabilité
Droits des citoyens
Selon Abhishek Agarwal, Président de Judge India & Global Delivery au Judge Group, un cadre crédible de gouvernance de l’IA doit commencer par deux droits fondamentaux pour les citoyens : notification et recours. « Les gens doivent savoir quand l’IA affecte des décisions importantes comme le crédit, l’emploi ou les avantages, et ils doivent avoir un moyen simple de faire appel. Cela signifie un examen humain, une explication claire et un calendrier défini », a déclaré Agarwal.
Une conversation politique plus large sur l’IA
Ce document blanc est le second d’une série d’OPS sur les priorités politiques émergentes pour l’écosystème de l’IA en Inde. Le premier document, publié en décembre 2025, portait sur « La démocratisation de l’accès à l’infrastructure IA ». Il soutenait que l’infrastructure IA — tels que les ensembles de données de haute qualité, la puissance de calcul abordable et l’infrastructure publique numérique (DPI) — devrait être considérée comme une ressource nationale partagée plutôt que concentrée entre quelques grands acteurs. Ensemble, ces deux documents visent à susciter des discussions éclairées et à guider l’élaboration des politiques alors que l’écosystème de l’IA de l’Inde continue d’évoluer.
Différences avec d’autres modèles de réglementation
L’approche techno-légale de l’Inde se distingue notablement des modèles de réglementation de l’IA adoptés dans l’UE, aux États-Unis ou en Chine. Sur ce point, Agarwal a déclaré que l’approche de l’Inde est présentée comme un modèle hybride. Au lieu de commencer par « une grande loi sur l’IA », l’Inde construit une couche techno-légale où les garde-fous sont intégrés dans les systèmes et soutenus par des obligations légales existantes et des règles spécifiques à chaque secteur.
Alors que l’UE a adopté un modèle clairement stratifié par risque sous la Loi sur l’IA, avec des obligations strictes pour les systèmes « à haut risque », les États-Unis restent largement dirigés par secteur et agence, tandis que la Chine met l’accent sur la responsabilité des plateformes, le contrôle du contenu et la gouvernance des algorithmes. « L’argument de l’Inde est une conformité pratique sans freiner l’innovation », a noté Agarwal.
Intégration de la gouvernance dans les systèmes d’IA
En discutant de la manière dont la gouvernance peut être « intégrée dans les systèmes d’IA par conception », en particulier pour les startups et les petits développeurs, Agarwal a expliqué que « par conception » signifie utiliser des défauts simples que les équipes peuvent maintenir de manière réaliste. Cela inclut des cartes de modèles claires, une documentation de base des sources de données d’entraînement, une légère évaluation des risques pour détecter les problèmes évidents, et des journaux qui expliquent pourquoi un modèle a produit un résultat particulier.
Les startups peuvent commencer petit : définir ce que le modèle ne doit pas faire, ajouter des filtres de sécurité, impliquer des humains dans les cas d’utilisation sensibles et s’assurer que les mises à jour sont traçables, a-t-il déclaré, soulignant que les récentes directives gouvernementales renforcent cette approche en mettant l’accent sur la diligence raisonnable, les divulgations utilisateur et la prévention des abus comme attentes minimales.
Priorisation des risques
Agarwal a souligné qu’en Inde, les risques les plus urgents liés à l’IA sont ceux qui se propagent rapidement, tels que les deepfakes, la fraude et le contenu nuisible, ainsi que les risques de confidentialité et les préjugés dans des domaines à fort impact comme le crédit, l’emploi et le bien-être. Les actions politiques récentes se sont fortement concentrées sur la lutte contre la tromperie et les médias synthétiques qui peuvent induire en erreur ou usurper l’identité des citoyens. Une manière sensée de progresser, a-t-il dit, est une approche axée sur les dommages : plus le risque pour les droits, la sécurité et la confiance est grand, plus les protections et la responsabilité doivent être fortes.
En soulignant le rôle des régulateurs spécifiques à chaque secteur, Agarwal a déclaré que la gouvernance de l’IA fonctionne mieux lorsqu’elle est guidée par des principes fondamentaux partagés que les régulateurs adaptent en règles spécifiques à chaque domaine. Par exemple, la santé peut se concentrer sur la sécurité des patients et la responsabilité clinique, la finance peut privilégier l’équité et l’audit, et les télécommunications peuvent mettre l’accent sur la protection des consommateurs et la prévention des abus.
Outils techniques et responsabilité
En parlant du rôle des outils techniques — tels que les audits, la documentation des modèles ou la transparence algorithmique pour l’application légale, Agarwal a déclaré que ces outils rendent les lois applicables. Les règles peuvent dire « soyez équitables » ou « soyez sûrs », mais les cartes de modèles, les feuilles de données, les journaux et les audits indépendants montrent comment ces principes sont appliqués en pratique. Ces outils permettent également aux régulateurs d’agir de manière proportionnée — des contrôles plus légers pour les systèmes à faible risque et un examen plus approfondi pour les déploiements à fort impact. L’approche de l’Inde consiste à intégrer ces garanties dans le cycle de vie de l’IA, faisant des preuves techniques le pont entre la politique et la responsabilité.
Concernant l’IA générative, Agarwal a souligné l’importance d’une approche basée sur les risques sans être aveugle à l’innovation. L’IA générative évolue trop rapidement pour une réglementation rigide de tout. Cependant, des divulgations claires, des tests de sécurité pour les déploiements à large portée, et des contrôles solides là où des dommages sont probables — tels que les deepfakes, l’usurpation d’identité ou les décisions automatisées affectant les droits — sont réalistes et nécessaires. Les conseils de l’Inde sur le contenu synthétique reflètent cette pensée : prévenir les abus tout en permettant la créativité et l’expérimentation légitimes.
Responsabilité des déployeurs
Agarwal a déclaré que le déployeur — l’entité utilisant l’IA dans des décisions réelles — a le devoir le plus clair de prévenir les dommages. Les développeurs sont responsables des conceptions dangereuses, des limitations connues et des revendications trompeuses. Les fournisseurs de données portent la responsabilité des violations de consentement et de provenance, tandis que les plateformes ne peuvent ignorer les abus à grande échelle. L’Inde est susceptible d’adopter une approche similaire à celle de l’UE, en cartographiant les devoirs de ceux qui sont les mieux placés pour gérer les risques.
Agarwal a déclaré que la gouvernance de l’IA fonctionne le mieux comme un mélange. Les cas d’utilisation à fort impact devraient faire face à des devoirs obligatoires, tandis que de meilleures pratiques plus larges peuvent être encouragées par des incitations, qui peuvent inclure des approbations plus rapides, des avantages en matière de passation de marchés ou une reconnaissance pour la conformité auditée. Pour les startups, cette approche par étapes réduit l’incertitude. La prévisibilité est essentielle : les entreprises devraient savoir ce qui est attendu à chaque niveau de risque et comment l’application sera réalisée.
Modèle pour le Sud Global
En notant l’influence de l’Inde sur les normes mondiales de l’IA, en particulier pour les pays en développement et du Sud Global, Agarwal a déclaré que le modèle de l’Inde est attrayant parce qu’il est réalisable avec des sauvegardes. De nombreux pays en développement souhaitent être protégés tout en ayant l’espace pour innover et construire des capacités locales en IA. Une approche techno-légale — intégrant des garde-fous, utilisant des régulateurs sectoriels et se concentrant sur les dommages — est plus facile à reproduire qu’un seul statut complexe sur l’IA. Le cadre pro-innovation de l’Inde s’aligne étroitement avec les besoins des marchés émergents.
Agarwal a souligné que le renforcement des capacités doit être pratique, pas académique. Les régulateurs ont besoin de formation sur les cycles de vie de l’IA, les rapports d’audit et les enquêtes sur les incidents. Les tribunaux doivent avoir des concepts clairs de causalité, de négligence et de devoir de diligence dans les systèmes algorithmiques. Les équipes d’application nécessitent un soutien technique — laboratoires, auditeurs agréés et listes de contrôle standardisées — afin que les affaires ne s’effondrent pas dans le jargon. Le cadre techno-légal de l’Inde fait de la construction de capacités un pilier central, pas une réflexion tardive.
Agarwal a déclaré que l’IA open-source ne devrait pas être considérée comme « sans responsabilité ». La recherche et la collaboration peuvent rester ouvertes, mais ceux qui déploient des modèles à grande échelle doivent assumer des devoirs plus stricts en matière de divulgation, de tests de sécurité et de prévention des abus. Les communautés open-source peuvent soutenir cela par le biais de licences claires, d’avertissements d’utilisation et de documentation des limitations. Cette approche maintient la collaboration vivante tout en réduisant l’utilisation imprudente en aval — parfaitement alignée avec la vision techno-légale de l’Inde pour des sauvegardes par conception.