X pourrait faire face à une interdiction au Royaume-Uni en raison des deepfakes
La secrétaire à la technologie, Liz Kendall, a exprimé son soutien à l’autorité de régulation Ofcom si celle-ci décidait de bloquer l’accès au site de médias sociaux X, propriété d’Elon Musk, pour non-respect des lois sur la sécurité en ligne.
Problèmes liés à l’IA et à la sécurité
Ofcom examine actuellement l’utilisation du chatbot d’intelligence artificielle Grok, critiqué pour avoir généré des images sexualisées non consensuelles lorsque les utilisateurs taguaient des personnes dans des publications. En réponse à la controverse, X a limité cette fonction d’image à ses abonnés payants.
Downing Street a qualifié ce changement de “désobligeant” envers les victimes de violences sexuelles, tandis qu’une organisation caritative sur les abus domestiques a dénoncé cette mesure comme étant une “monétisation de l’abus”.
Réactions politiques
Kendall a déclaré : “Manipuler sexuellement des images de femmes et d’enfants est despicable et abominable.” Elle a ajouté que le public s’attendait à ce qu’Ofcom fasse rapidement le point sur les prochaines étapes.
Le Premier ministre, Sir Keir Starmer, a également qualifié l’utilisation de Grok d’indigne et dégoûtante. D’autres leaders politiques, comme Nigel Farage, ont critiqué l’idée d’interdire X au Royaume-Uni, la qualifiant d’attaque contre la liberté d’expression.
Mesures possibles d’Ofcom
Les pouvoirs d’Ofcom selon la Loi sur la sécurité en ligne incluent la possibilité de demander une ordonnance judiciaire pour empêcher des tiers de soutenir X ou d’y accéder au Royaume-Uni, en cas de non-conformité de l’entreprise.
Un outil controversé
Grok est un outil gratuit que les utilisateurs peuvent taguer directement dans des publications pour obtenir une réponse spécifique. Malgré les restrictions imposées, les utilisateurs ont signalé que Grok continuait à éditer des images via d’autres fonctions de la plateforme.
Des demandes ont été formulées pour modifier des images de femmes afin de les montrer en maillots de bain ou légèrement vêtues. Les personnes concernées ont exprimé à la BBC un sentiment de humiliation et de déshumanisation.
Réactions des utilisateurs et des experts
Dr Daisy Dixon, universitaire et utilisatrice de X, a salué les changements mais a déclaré qu’ils semblaient être un “pansement temporaire”. Elle a souligné que Grok devait être entièrement repensé pour inclure des garanties éthiques et éviter que de telles situations ne se reproduisent.
Hannah Swirsky, responsable des politiques à l’Internet Watch Foundation, a ajouté que ces changements ne réparaient pas les dommages déjà causés, affirmant que l’outil ne devrait jamais avoir eu la capacité de créer de telles images.
Contexte politique et futur de X
Un mécontentement croissant parmi les députés travaillistes suggère une opposition à l’utilisation de X pour diffuser des messages politiques. Des messages divulgués montrent que plusieurs députés ont appelé à une cessation de l’utilisation de la plateforme.
Malgré cela, Downing Street a indiqué qu’il continuerait à publier sur X, affirmant que des changements dans la façon dont Grok répondait aux demandes des utilisateurs montraient que X pouvait agir rapidement.
Il est désormais clair que X doit prendre des mesures immédiates pour résoudre ce problème, tout comme toute autre entreprise médiatique devrait le faire en cas de diffusion d’images illégales.