Pourquoi Grok d’Elon Musk est en difficulté en Inde tandis que ChatGPT et Gemini ne le sont pas
NEW DELHI : La mise en demeure de l’Inde à X concernant la plateforme d’intelligence artificielle (IA) de Musk, Grok, met en lumière la manière dont les grandes entreprises technologiques se conforment à la législation indienne, en particulier en ce qui concerne le contenu sexuel et les images générées par IA.
Un examen des pratiques d’utilisation et des politiques publiques de X, Gemini de Google et ChatGPT d’OpenAI a révélé que les protections contre de tels contenus ne sont pas uniformes au sein des entreprises.
La mise en lumière de Grok
Le 2 janvier, le ministère de l’Électronique et des Technologies de l’Information (MeitY) a adressé une notification à X demandant des détails sur la manière dont la plateforme lutte contre le contenu répréhensible et comment elle prévoit de traiter le contenu sexuel. Cette initiative est survenue suite à des inquiétudes concernant la manière dont Grok, intégré à X (anciennement Twitter), pourrait modifier des photographies en contenu pouvant être jugé sexuel, obscène ou violant la vie privée d’un utilisateur.
Musk a récemment exprimé une attitude plus amicale envers les régulateurs indiens. Il a déclaré que “quiconque utilise Grok pour créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal”.
Les différences de politique entre les plateformes
En revanche, la politique d’utilisation de l’IA générative de Google interdit catégoriquement la génération d’images intimes non consensuelles et tout contenu qui viole les droits d’autrui, y compris les droits à la vie privée et à la propriété intellectuelle.
La politique d’OpenAI interdit également l’utilisation de ses outils d’IA générative pour la “violence sexuelle et les images intimes non consensuelles”. Ces cadres politiques ont permis à Google et OpenAI de conserver des protections légales en vertu de la législation indienne.
Le défi de la conformité pour X
Rohit Kumar, associé fondateur d’une société de conseil en politique, a souligné que le point clé réside dans la violation des règles IT mentionnées, que X devra probablement prouver au gouvernement indien. La politique de contenu pour adultes de X, mise à jour en mai 2024, permet le contenu sexuel tant qu’il est consensuel et correctement étiqueté.
Une approche laxiste face à la modération du contenu
Les experts estiment que l’approche relativement laxiste de Grok en matière de modération du contenu pourrait être à la fois son point de force et sa vulnérabilité. Contrairement à Gemini ou ChatGPT, Grok assouplit les contraintes sur les filtres typiques, ce qui soulève des questions sur sa capacité à respecter la législation indienne tout en préservant la liberté d’expression.
Conclusion
La situation actuelle soulève des interrogations sur la nécessité pour l’Inde de repenser son cadre réglementaire afin d’inciter les plateformes à mieux concevoir leurs services pour minimiser les dommages, plutôt que de maximiser l’engagement.