Amendements des règles informatiques par le gouvernement : un accent sur le contenu généré par l’IA
Le gouvernement a récemment notifié des amendements aux règles de l’Information Technology, mettant en lumière le contenu généré par l’IA. Ces modifications introduisent des exigences de labeling pour le contenu d’IA et de nouvelles obligations pour les utilisateurs et les plateformes.
Réduction des délais de conformité
À partir du 20 février, le délai pour retirer le contenu illégal signalé a été réduit à trois heures, contre 36 heures auparavant. Le temps minimum accordé aux plateformes pour résoudre les plaintes des utilisateurs a également été ramené à sept jours, contre 15 jours précédemment. En outre, les images intimes non consensuelles (NCII) doivent être supprimées dans un délai de deux heures, au lieu de 24 heures.
Ces mesures ont été mises en place pour contrer la propagation rapide de contenus illégaux, notamment les matériaux d’abus sexuel d’enfants (CSAM) et les deepfakes ciblant les femmes.
Définition du contenu illégal
Les nouvelles règles définissent un large éventail d’informations comme étant du contenu illégal, y compris celles prohibées par des lois relatives à la souveraineté nationale, à la sécurité de l’État et à l’ordre public. Un responsable du ministère a déclaré que ces changements visent à répondre à des préoccupations largement ressenties concernant la lenteur des délais précédents.
Étiquetage des contenus générés par l’IA
Les règles actualisées exigent également une déclaration obligatoire de tous les utilisateurs de réseaux sociaux lors de la publication de contenu généré ou modifié par l’IA. Les plateformes doivent déployer des mesures techniques pour vérifier ces contenus et les étiqueter de manière visible.
Le gouvernement a souligné que ces mesures sont nécessaires pour lutter contre la montée rapide des deepfakes basés sur l’IA. Bien que le projet d’amendement ait été publié en octobre de l’année précédente, son application a été retardée en raison de tensions avec la plateforme de médias sociaux X.
Réactions de l’industrie
L’organisme sectoriel Nasscom a accueilli la plupart des nouvelles dispositions, mais a souligné que le délai de mise en œuvre de 10 jours pose un défi. Les nouvelles dispositions sur l’IA ciblent spécifiquement les intermédiaires de médias sociaux significatifs (SSMIs) qui comptent 50 lakh (5 millions) ou plus d’utilisateurs enregistrés en Inde.
Tous les intermédiaires technologiques doivent également intégrer des disclaimers dans leur contenu, qu’ils soient des intermédiaires de médias sociaux ou qu’ils fournissent simplement des services basés sur l’IA.
Conclusion
Les amendements récents aux règles de l’IT visent à moderniser la réglementation face à l’évolution rapide des technologies d’IA et à protéger les utilisateurs contre les abus potentiels. La définition de ce qui constitue un contenu “réel” ou “indiscernable” pose néanmoins des défis techniques et éthiques, nécessitant une collaboration étroite entre le gouvernement et l’industrie.