Droits de l’Homme et Intelligence Artificielle en Inde
NEW DELHI, Inde (MNTV) – À l’occasion du sommet sur l’impact de l’IA 2026, deux organisations de la société civile ont publié un rapport avertissant que le modèle de gouvernance de l’intelligence artificielle (IA) en Inde risque d’enraciner la discrimination et d’accélérer l’érosion démocratique.
Un Cadre de Gouvernance Défaillant
Le rapport, intitulé Gouvernance de l’IA à la lisière du Recul Démocratique, a été publié par le Center for the Study of Organized Hate (CSOH) et la Internet Freedom Foundation. Il soutient que l’approche réglementaire de New Delhi repose largement sur la conformité volontaire et l’auto-régulation de l’industrie, tout en évitant des mécanismes de responsabilité contraignants.
En novembre 2025, le Ministère de l’Électronique et de la Technologie de l’Information de l’Inde a émis des Directives sur la Gouvernance de l’IA, déclarant qu’une loi distincte sur l’IA n’était pas nécessaire pour le moment. Les dommages potentiels devraient plutôt être abordés sous la législation existante, telle que la Loi sur la Technologie de l’Information de 2000 et le nouveau code pénal indien, la Bharatiya Nyaya Sanhita, de 2023.
Manque de Transparence et de Responsabilité
Le rapport note que ce cadre manque de normes de transparence obligatoires, d’audits indépendants et de règles de responsabilité claires. Alors que le message officiel du sommet met l’accent sur la démocratisation de l’IA, les communautés vulnérables, notamment les Musulmans, les Dalits, les Adivasis et les minorités sexuelles, demeurent largement ignorées dans la conception des politiques.
Le rapport documente des cas où des outils d’IA générative ont été utilisés pour propager de la propagande communautaire. Il cite des vidéos et images générées par IA ciblant les communautés musulmanes et les leaders d’opposition, y compris des contenus diffusés par des unités étatiques du Bharatiya Janata Party (BJP).
Exemples de Propagande Générée par l’IA
Dans un cas largement critiqué, l’unité assamaise du BJP a partagé une vidéo générée par IA montrant le ministre en chef Himanta Biswa Sarma tirant sur deux hommes visiblement musulmans, accompagnée de la légende « Pas de pitié », avant de la supprimer ultérieurement.
Les chercheurs relient ce contenu synthétique à des narratifs plus larges de Hindutva tels que le “jihad de l’amour” et le “jihad de la terre”, des théories du complot souvent invoquées pour présenter les musulmans comme des menaces démographiques ou culturelles. Le rapport soutient que l’IA réduit le coût de production de la propagande incendiaire, augmentant le risque de violence hors ligne.
Utilisation de l’IA dans la Surveillance et le Contrôle
Au-delà des dommages en ligne, les auteurs soulignent l’utilisation croissante de l’IA par l’État dans la police et la surveillance. Dans le Maharashtra, les autorités ont proposé des outils d’IA pour identifier les immigrants présumés bangladais et les réfugiés rohingyas par le biais de profilage linguistique, un mouvement que les experts estiment pourrait permettre un ciblage ethnique ou religieux.
Des systèmes de reconnaissance faciale ont également été déployés dans des villes telles que Delhi, Hyderabad, Bengaluru et Lucknow, sans cadre légal complet.
Préoccupations Concernant l’Intégration de l’IA dans les Services de Bien-Être
L’intégration de l’IA dans la livraison des services de bien-être suscite également des inquiétudes. La reconnaissance faciale obligatoire dans le cadre des programmes de nutrition gouvernementaux a suscité des craintes d’exclusion en raison de défaillances techniques, rappelant les controverses antérieures concernant l’authentification basée sur Aadhaar dans la distribution alimentaire.
Conclusion et Appel à l’Action
Alors que des délégués mondiaux discutent d’innovation et de croissance, le rapport appelle à un contrôle contraignant, à des sauvegardes pour les minorités et à des limites claires sur la surveillance biométrique. Il avertit qu’en l’absence de protections applicables, l’expansion de l’IA en Inde pourrait renforcer les hiérarchies existantes de caste, de religion et de pouvoir politique, plutôt que de réduire les inégalités technologiques.