Les règles renforcées de l’Inde sur l’IA dans les médias sociaux suscitent des craintes de censure
Le gouvernement Modi en Inde s’apprête à mettre en œuvre des règles plus strictes concernant l’utilisation de l’intelligence artificielle sur les médias sociaux afin de lutter contre une vague de désinformation croissante. Il envisage également d’interdire l’accès aux médias sociaux pour les enfants.
Une réaction contre la désinformation
La première mesure vise à contrer l’augmentation des vidéos falsifiées et d’autres contenus frauduleux et abusifs. Cependant, cela a également provoqué des avertissements concernant la censure et l’érosion des libertés numériques.
Les nouvelles réglementations entreront en vigueur le vendredi 20 février, dernier jour d’un sommet international sur l’IA à New Delhi, qui rassemble des figures technologiques mondiales. Les entreprises telles qu’Instagram, Facebook et X disposeront de trois heures, contre 36 précédemment, pour se conformer aux ordres de retrait émis par le gouvernement, dans le but d’éviter la propagation rapide de publications problématiques.
Une surveillance accrue des médias sociaux
La réglementation stricte dans le pays le plus peuplé du monde augmente la pression sur les géants des médias sociaux, qui font face à une anxiété publique croissante et à une surveillance réglementaire mondiale concernant l’utilisation abusive de l’IA, y compris la diffusion de désinformation et d’images sexualisées d’enfants.
Cependant, les groupes de droits affirment qu’un contrôle plus strict de l’IA, s’il est appliqué trop largement, risque d’éroder la liberté d’expression.
Des délais d’action inadéquats
La Fondation pour la Liberté d’Internet (IFF) a déclaré que le délai compressé pour les notifications de retrait sur les médias sociaux obligerait les plateformes à devenir des « censeurs rapides ». Les contenus manipulés par l’IA doivent désormais être clairement étiquetés.
Les nouvelles règles ont été élargies pour s’appliquer aux contenus « créés, générés, modifiés ou altérés » par le biais de ressources informatiques, à l’exception des modifications effectuées lors d’éditions de routine ou de bonne foi.
Une censure automatisée
La plupart des utilisateurs d’internet n’ont pas été informés des ordres des autorités de supprimer leur contenu, ce qui a été qualifié de « censure automatisée » par les militants des droits numériques.
Les règles exigent également que les plateformes déploient des outils automatisés pour prévenir la propagation de contenus illégaux, y compris des documents falsifiés et du matériel sexuellement abusif.
Des responsabilités déplacées
Un rapport du Center for the Study of Organized Hate (CSOH), en collaboration avec l’IFF, avertit que ces lois pourraient encourager une surveillance proactive des contenus, entraînant une censure collatérale, les plateformes risquant d’être excessivement prudentes.
Des restrictions d’âge en discussion
Parallèlement, l’Inde discute de restrictions d’âge avec les entreprises de médias sociaux. Le ministre des Technologies de l’Information, Ashwini Vaishnaw, a déclaré qu’il fallait des règles plus strictes concernant les deepfakes.
Des mesures similaires ont été mises en place en Australie, qui exige que TikTok, YouTube et d’autres services de médias sociaux suppriment les comptes détenus par des utilisateurs de moins de 16 ans, sous peine de lourdes amendes.
Ces nouvelles réglementations soulignent la nécessité d’une protection accrue des enfants et de la société contre les dangers croissants liés à l’IA.