Demandes du gouvernement concernant les deepfakes de Grok AI
Le gouvernement a exigé que la plateforme de médias sociaux X agisse rapidement après que son chatbot IA, Grok, ait été utilisé pour générer des images sexualisées de femmes et d’enfants sans leur consentement.
Réactions du gouvernement
La secrétaire à la Technologie, Liz Kendall, a qualifié la situation d’absolument choquante et a déclaré que le gouvernement ne tolérerait pas la diffusion de contenus qu’elle qualifie de dégradants et d’abusifs.
« Nous ne pouvons pas et ne laisserons pas proliférer ces images », a-t-elle déclaré, ajoutant que les plateformes avaient un devoir légal clair d’agir.
Intervention de l’Ofcom
Cette intervention fait suite à un contact urgent établi par le régulateur des médias, Ofcom, avec X et sa filiale xAI, après des préoccupations concernant la production par Grok d’images « dénudées » de personnes réelles.
« Sur la base de leur réponse, nous procéderons à une évaluation rapide pour déterminer s’il y a des problèmes de conformité potentiels nécessitant une enquête », a déclaré un porte-parole d’Ofcom.
Soutien à l’Ofcom
Kendall a exprimé son soutien total à l’approche d’Ofcom et à toute action d’application qu’il pourrait entreprendre. « Il est tout à fait approprié qu’Ofcom examine cela en urgence et il a mon plein soutien pour prendre toute action d’application qu’il juge nécessaire », a-t-elle ajouté.
Responsabilité légale
La secrétaire à la Technologie a souligné que la question concernait l’application de la loi plutôt que la limitation de la liberté d’expression.
« Les services et les opérateurs ont une obligation claire d’agir de manière appropriée. Il ne s’agit pas de restreindre la liberté d’expression, mais de défendre la loi », a-t-elle déclaré.
Lois sur la sécurité en ligne
Elle a ajouté que le gouvernement avait fait de l’abus d’images intimes et du cyberflashing des infractions prioritaires en vertu de la Loi sur la sécurité en ligne, y compris les cas où des images sont générées à l’aide de l’IA.
Exemples concrets
Grok est un assistant virtuel gratuit, avec certaines fonctionnalités premium, qui répond aux demandes des utilisateurs lorsqu’il est tagué dans des publications sur X. La BBC a rapporté avoir vu plusieurs exemples où des utilisateurs ont demandé à Grok de manipuler de vraies photos pour placer des femmes dans des scénarios sexualisés.
La Internet Watch Foundation (IWF) a également identifié des images criminelles de filles mineures qui semblent avoir été créées à l’aide de Grok.
Préoccupations croissantes
Les inquiétudes ont augmenté depuis que X a introduit un bouton « Modifier l’image », permettant aux utilisateurs de modifier des images à l’aide de prompts textuels, même s’ils n’ont pas téléchargé la photo originale et sans le consentement de la personne représentée.
Plusieurs femmes ayant vu leurs images modifiées de cette manière ont décrit l’expérience comme déshumanisante.
Témoignages d’utilisateurs
Dr Daisy Dixon, une utilisatrice fréquente de X, a déclaré qu’elle avait commencé à voir des personnes prendre des photos ordinaires qu’elle avait postées sur la plateforme et demander à Grok de les sexualiser.
Elle a déclaré à la BBC que ces images l’avaient laissée se sentir humiliée et effrayée pour sa sécurité personnelle.
Réactions de la plateforme X
Bien que la secrétaire à la Technologie ait jugé son intervention « encourageante », elle a exprimé sa frustration face à ce qu’elle a qualifié de manque de responsabilité de la part de X.
« Je ne veux plus ouvrir mon application X car j’ai peur de ce que je pourrais voir », a-t-elle ajouté.
X a déclaré qu’elle prenait des mesures contre le contenu illégal sur la plateforme, y compris le matériel d’abus sexuel sur des enfants.
« Quiconque utilisant ou incitant Grok à créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal », a précisé la plateforme.
Appel à l’action
Le leader des Libéraux-Démocrates, Sir Ed Davey, a appelé le gouvernement à agir rapidement pour empêcher la création d’images sexualisées à l’aide du chatbot.
Il a suggéré qu’une option pourrait être de réduire l’accès à X si les inquiétudes étaient fondées.
Conclusion sur la Loi sur la sécurité en ligne
La Loi sur la sécurité en ligne rend illégal de créer ou de partager des images intimes ou sexuellement explicites sans le consentement d’une personne, y compris celles générées par l’IA.
La loi exige également que les entreprises technologiques prennent des mesures appropriées pour limiter l’exposition des utilisateurs à de tels matériaux et pour les retirer rapidement une fois identifiés.