Kendall exhorte X à limiter les deepfakes sexuels générés par l’IA de Grok
La secrétaire à la technologie, Liz Kendall, a appelé la plateforme de médias sociaux X, dirigée par Elon Musk, à agir contre l’utilisation de son chatbot d’intelligence artificielle, Grok, dans la création d’images sexualisées non consensuelles de femmes et de filles.
Cette demande fait suite aux inquiétudes concernant la capacité de Grok à générer des images sexualisées sans consentement. Ce problème soulève des questions sur la manière dont les grandes plateformes gèrent le contenu nuisible et illégal lié aux outils d’IA générative.
Les obligations légales
Alexander Brown, responsable des médias technologiques et des télécommunications chez Simmons & Simmons, a indiqué que la Loi britannique sur la sécurité en ligne de 2023 couvre le partage d’images intimes, y compris certaines deepfakes générées par l’IA.
« En vertu de la Loi britannique sur la sécurité en ligne de 2023, le partage d’images intimes (qui inclut les deepfakes générés par l’IA qui « semblent montrer » quelqu’un dans un état intime) est un délit criminel », a-t-il déclaré. La loi exige que toutes les entreprises prennent des mesures robustes contre le contenu et l’activité illégaux.
Les plateformes comme X sont tenues de mettre en œuvre des mesures pour réduire les risques que leurs services soient utilisés à des fins illégales. Elles doivent également mettre en place des systèmes pour supprimer le contenu illégal lorsqu’il apparaît.
Sanctions et enforcement
Brown a expliqué que la loi identifie un ensemble de délits prioritaires qui reflètent les formes les plus graves et les plus répandues de contenu et d’activité illégaux. Cela signifie que X doit prendre des mesures proactives pour empêcher ce type de contenu d’apparaître sur sa plateforme et le retirer rapidement lorsqu’il est détecté.
Ofcom, l’organisme de régulation, peut infliger des amendes allant jusqu’à 18 millions de livres sterling ou 10 % des revenus mondiaux admissibles, selon le montant le plus élevé. Dans les cas graves, Ofcom peut demander des mesures de perturbation commerciale, telles que le retrait des services des fournisseurs de paiement ou des annonceurs d’une plateforme.
Réactions et préoccupations
Brown a souligné que des rapports indiquent que des plaignants ont soulevé des préoccupations concernant la manière dont X a répondu après que des utilisateurs ont signalé des images. Ces rapports suggèrent que la plateforme pourrait avoir un cas à répondre en vertu de la loi si elle n’a pas supprimé le contenu signalé par les utilisateurs.
Ofcom examinera également les mesures que X a prises pour empêcher le contenu de réapparaître sur la plateforme.
Conclusion
L’intervention de Kendall s’inscrit dans un débat politique plus large sur la façon dont les outils d’IA générative affectent les dommages en ligne. Les législateurs et les régulateurs se concentrent sur les images deepfake et la rapidité avec laquelle elles peuvent être créées et partagées à travers de grands réseaux.
Les préoccupations concernant Grok soulèvent également des questions sur la gestion des fonctionnalités d’IA intégrées au sein des services destinés aux consommateurs. Les entreprises ont lancé des chatbots et des outils de génération d’images à un rythme rapide ces dernières années. Les régulateurs ont signalé que les lois existantes sur la sécurité et le contenu s’appliquent toujours lorsque ces outils sont utilisés pour des activités illégales.
Brown a conclu en affirmant que la Loi sur la sécurité en ligne établit des attentes pour une action proactive et rapide lorsque des délits prioritaires s’appliquent, et il a ajouté qu’Ofcom examinera les mesures que la plateforme a prises avant et après l’apparition de matériel nuisible.