Alerte sur l’utilisation de l’IA en Inde : Rapport avant le Sommet IA Impact 2026
New Delhi : Un rapport publié avant le Sommet IA Impact de l’Inde 2026, prévu à New Delhi, soulève des inquiétudes concernant l’approche du pays en matière de gouvernance de l’IA.
Titre du Rapport
Intitulé India AI Impact Summit 2026 : AI Governance at the Edge of Democratic Backsliding, le rapport a été publié par le Center for the Study of Organized Hate (CSOH) et la Internet Freedom Foundation (IFF). Il souligne l’écart entre l’engagement déclaré de l’Inde envers une IA inclusive et démocratique et l’utilisation signalée des systèmes d’IA qui affectent les communautés minoritaires et marginalisées.
Utilisation de l’IA par le BJP
Le rapport met en lumière le rôle du Bharatiya Janata Party (BJP) dans l’utilisation de telles technologies. Plusieurs exemples montrent comment le BJP a utilisé des vidéos et des images générées par l’IA pour diffuser des récits communaux et cibler des leaders de l’opposition. Par exemple, une semaine avant le Sommet, l’unité assamaise du BJP a téléchargé une vidéo générée par l’IA sur son compte officiel X, montrant le ministre en chef de l’Assam, Himanta Biswa Sarma, tirant sur deux hommes visiblement musulmans, avec le titre No Mercy. Cette vidéo a été supprimée après une large critique.
Surveillance et outils d’IA
Au-delà du contenu en ligne, le rapport indique que plusieurs agences des forces de l’ordre utilisent des systèmes de reconnaissance faciale, des logiciels de police prédictive et d’autres outils de surveillance basés sur l’IA. Ces déploiements manquent de supervision indépendante, d’approbation judiciaire et de transparence.
Collaboration avec l’IIT Bombay
Le ministre en chef du Maharashtra, Devendra Fadnavis, a annoncé le développement d’un système d’IA en collaboration avec l’Indian Institute of Technology Bombay pour identifier les immigrants présumés bangladais et les réfugiés rohingyas par l’analyse des schémas de discours et de l’utilisation de la langue. Des experts avertissent que cette technologie pourrait cibler les communautés musulmanes parlant bengali et les travailleurs migrants à faible revenu.
Directives de gouvernance de l’IA
Le document passe également en revue les Directives de Gouvernance de l’IA émises en novembre 2025. Il est noté que ce cadre repose sur une conformité volontaire plutôt que sur des règles contraignantes et qu’il privilégie l’innovation au détriment de la précaution. Bien que les directives mentionnent la protection des groupes vulnérables, le rapport souligne qu’elles ne traitent pas des risques spécifiques auxquels font face les minorités religieuses, les Dalits, les Bahujans, les Adivasis et les minorités sexuelles et de genre.
Appel à l’action pour le Sommet IA Impact 2026
Le Sommet IA Impact 2026 est officiellement centré sur la « démocratisation de l’IA » et le « rapprochement de la fracture de l’IA » à travers les thèmes de « Personnes, Planète et Progrès ». Le rapport exhorte les dirigeants présents à adopter des régulations applicables tout au long du cycle de vie de l’IA, à interdire l’utilisation de l’IA pour la surveillance de masse et la police prédictive, à exiger une supervision indépendante des systèmes d’IA du secteur public, et à inclure les communautés affectées dans les discussions de gouvernance.
Ils appellent également à aller au-delà des engagements volontaires des entreprises technologiques vers des mesures réglementaires plus strictes.