Restrictions sur les Images Générées par l’IA sur la Plateforme X
La start-up d’Elon Musk, xAI, a récemment imposé des restrictions sur la fonction de génération d’images de son chatbot Grok sur la plateforme sociale X, réservant cette fonctionnalité aux abonnés payants. Cette décision fait suite à un large débat suscité par l’utilisation de l’IA pour créer des images sexualisées.
Contexte et Controverse
Le chatbot Grok permettait aux utilisateurs de X d’éditer ou de créer des photos sexualisées, ce qui a été largement critiqué. Une enquête de Reuters a révélé que cet outil avait été utilisé pour générer des images de femmes et d’enfants en vêtements minimalistes, souvent sans le consentement des personnes représentées.
La diffusion d’un grand nombre d’images semi-nues sur X a conduit les législateurs européens à appeler à des actions juridiques. Le ministre des médias allemand, Wolfram Weimer, a qualifié ces images d’« industrialisation du harcèlement sexuel », tandis que la Commission européenne les a déclarées illégales.
Réponse de Grok et xAI
Suite à cette controverse, Grok a informé les utilisateurs de X que les fonctionnalités de génération et d’édition d’images étaient désormais réservées aux abonnés payants. En revanche, l’application autonome Grok, qui fonctionne séparément de X, permet toujours aux utilisateurs de générer des images sans abonnement.
Un journaliste de Reuters a demandé à Grok sur X de transformer une photo de lui en une image portant un bikini, une demande devenue courante la semaine précédente. Le bot a répondu que cet outil n’était disponible que pour les abonnés payants de la plateforme sociale.
Dans une réponse semblant automatisée, xAI a répondu à une demande de commentaire de Reuters en déclarant : « Les médias traditionnels mentent ». X n’a pas immédiatement répondu à une demande de commentaire.
Conséquences et Régulations
La Commission européenne a déclaré lundi que les images circulant sur X étaient illégales et révoltantes. L’autorité britannique de protection des données a également demandé à la plateforme d’expliquer comment elle se conformait aux lois sur la protection des données, suite à des inquiétudes concernant la génération d’images sexuellement abusives de femmes par Grok.
Elon Musk a affirmé la semaine dernière que toute personne utilisant Grok pour créer du contenu illégal subirait les mêmes conséquences que si elle avait téléchargé ce matériel directement.