Problème de contenu obscène de Grok AI : X admet son erreur, supprime 600 comptes et assure sa conformité
Le 11 janvier, la plateforme de microblogging X a admis son erreur en supprimant environ 3 500 contenus ainsi que plus de 600 comptes, après que le ministère des Technologies de l’information indien a exprimé des préoccupations concernant du contenu obscène lié au chatbot AI Grok, soutenu par Elon Musk.
X a assuré aux autorités qu’elle se conformerait aux lois indiennes. Cette action fait suite à une pression croissante de la part des gouvernements mondiaux, alors que les régulateurs renforcent leur vigilance sur les moteurs d’IA générative en ce qui concerne la modération de contenu, la sécurité des données et les images sexuellement explicites non consensuelles qui ont récemment inondé la plateforme.
Acceptation de l’erreur et actions prises
Selon des sources gouvernementales indiennes, X a reconnu son erreur et promis de se conformer aux lois locales. En conséquence, elle a bloqué environ 3 500 contenus et supprimé plus de 600 comptes. Elle a également garanti qu’à l’avenir, elle ne permettra pas la diffusion d’images obscènes.
La semaine précédente, le compte officiel “Safety” de X avait déclaré qu’il prenait des mesures contre le contenu illégal, y compris le matériel d’abus sexuel d’enfants (CSAM), en supprimant les contenus, en suspendant définitivement des comptes et en collaborant avec les gouvernements et les forces de l’ordre selon les besoins.
Pression mondiale et mise en garde des gouvernements
X fait face à un retour de bâton mondial en raison du “déshabillage numérique” d’images via des invites utilisateur sur le chatbot xAI Grok. Elle a été critiquée par plusieurs gouvernements, notamment en Europe et en Asie, qui l’ont avertie des conséquences si la plateforme ne respectait pas les normes de sécurité en ligne. Les appels publics à agir sur X et Grok se multiplient.
Le 2 janvier, le ministère des TI a convoqué X et lui a ordonné de supprimer immédiatement tout contenu vulgaire, obscène ou illégal généré par Grok, sous peine de sanctions légales.
Directive du ministère des TI
Dans sa directive, le ministère a demandé à l’entreprise américaine de soumettre un rapport détaillé sur les actions entreprises (ATR) dans les 72 heures suivant l’ordre, précisant les mesures techniques et organisationnelles adoptées ou prévues concernant l’application Grok.
Le ministère a également noté que Grok AI était mal utilisé par des utilisateurs pour créer de faux comptes afin de générer, publier ou partager des images ou vidéos obscènes dégradantes envers les femmes.
Conformité aux lois et obligations de diligence
Le gouvernement a clairement indiqué à X que la conformité à la loi sur les TI et ses règles n’était pas optionnelle. Il a averti que tout manquement entraînerait la perte de l’exemption de responsabilité. X doit également appliquer ses conditions d’utilisation et imposer des restrictions sur l’usage de l’IA, en instaurant des mesures dissuasives contre les contrevenants.
Réaction initiale de X
La réponse initiale de X, bien que détaillée, était perçue comme une simple réitération du respect des lois indiennes. Le ministère des TI a jugé que cette réponse manquait d’informations clés, notamment sur le retrait et les actions spécifiques prises concernant le contenu obscène lié à Grok.
Face à cette situation, X a désormais admis son erreur et informé le gouvernement de son engagement à respecter les lois et règlements indiens.
Pression supplémentaire du Royaume-Uni et de l’Union Européenne
Outre l’Inde, le Royaume-Uni et l’Union Européenne ont aussi exercé une forte pression sur X concernant le problème des deepfakes générés par Grok. Le Premier ministre britannique, Keir Starmer, a qualifié la situation de “dégoûtante”, tandis que la Commission européenne a demandé à X de conserver tous les documents relatifs au chatbot AI Grok pour une période prolongée.
Ofcom, le régulateur des communications du Royaume-Uni, a indiqué avoir contacté X et xAI pour évaluer les mesures prises afin de protéger les utilisateurs au Royaume-Uni. Selon leur réponse, Ofcom mènera une évaluation rapide pour identifier tout problème de conformité nécessitant une enquête.
Par ailleurs, trois sénateurs démocrates américains ont adressé une lettre ouverte appelant Apple et Google à suspendre X et Grok de leurs magasins d’applications pour violation des conditions de service.