La Controverse de Grok AI : Réactions et Mesures Correctives
La plateforme de médias sociaux X a récemment reconnu des lacunes dans ses normes de modération de contenu, selon des sources gouvernementales. En réponse aux préoccupations soulevées, la société a informé le gouvernement de sa volonté de fonctionner en pleine conformité avec toutes les lois et réglementations applicables en Inde.
Mesures Correctives
Dans le cadre des mesures correctives, X a déjà bloqué 3 500 contenus et supprimé plus de 600 comptes. De plus, la plateforme a assuré aux autorités qu’elle n’autorisera plus de contenu obscène sur X à l’avenir.
Ce problème a été mis en lumière après que des inquiétudes ont été soulevées concernant la circulation de contenu obscène et sexuellement explicite sur la plateforme, y compris du matériel prétendument généré ou amplifié par son outil d’intelligence artificielle, Grok.
Action du MeitY
La semaine dernière, le Ministère de l’Électronique et des Technologies de l’Information (MeitY) a envoyé un avis au Responsable de la Conformité de X Corp (anciennement Twitter) pour ses opérations en Inde, demandant un rapport détaillé sur les actions prises dans un délai de 72 heures pour garantir la conformité immédiate. Ce rapport devait aborder la prévention de l’hébergement, de la génération, de la publication, de la transmission, du partage ou du téléchargement de contenu obscène, nu, indécent et sexuellement explicite par le biais de l’utilisation abusive de services basés sur l’IA tels que Grok.
Dans sa lettre, le MeitY a ordonné à la plateforme de s’abstenir strictement de permettre tout contenu qui est “obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile, ou autrement interdit” selon les lois en vigueur. Le non-respect de ces obligations de diligence pourrait entraîner la perte de l’exemption de responsabilité en vertu de la section 79 de la loi sur l’informatique.
Critique de l’Utilisation de l’IA
Parallèlement, la députée du Rajya Sabha, Priyanka Chaturvedi, a critiqué la plateforme X pour avoir restreint la génération d’images problématiques et sexualisées via Grok uniquement aux utilisateurs payants, au lieu d’arrêter complètement cette pratique. Dans son post sur X, elle a allégué que cette décision permet effectivement l’utilisation non autorisée d’images de femmes et d’enfants, les mettant ainsi en danger. Elle a qualifié cela de “utilisation honteuse de l’IA”.
Réactions Internationales
En outre, l’Indonésie est devenue le premier pays à suspendre complètement l’accès à Grok, le chatbot d’intelligence artificielle développé par la société xAI d’Elon Musk, au milieu des inquiétudes croissantes au niveau mondial concernant l’utilisation abusive de l’IA pour créer des images sexualisées sans consentement.