Les AGs Demandent à xAI d’Agir contre les Deepfakes de Grok
Une coalition bipartisane de 35 procureurs généraux (AG), co-dirigée par le procureur général du Connecticut, William Tong, celui de la Caroline du Nord, Jeff Jackson, le procureur général de Pennsylvanie, Dave Sunday, et celui de l’Utah, Derek Brown, a envoyé une lettre à xAI, pressant l’entreprise de prendre des mesures supplémentaires pour empêcher son chatbot IA, Grok, de générer et diffuser des images intimes non consensuelles (NCII), y compris du contenu impliquant des enfants.
Les Allégations et les Problèmes Soulevés
Dans la lettre, la coalition a fait référence à des rapports indiquant que Grok avait été utilisé pour « nudifier » de vraies personnes et amplifier le contenu résultant. Ils ont également allégué que les choix de produits d’xAI (y compris un mode « épice ») et son marketing avaient contribué au problème.
Demandes des Procureurs Généraux
Bien que les AGs aient reconnu les efforts récents d’xAI en matière d’atténuation, ils ont demandé à l’entreprise de fournir des informations spécifiques sur la manière dont xAI compte :
- Prévenir Grok de produire des NCII,
- Supprimer le contenu NCII existant,
- Suspendre et, le cas échéant, signaler les utilisateurs responsables,
- Offrir aux utilisateurs de xAI des contrôles faciles pour bloquer Grok de répondre ou d’éditer leur contenu,
- S’assurer que les safeguards limitent les productions nuisibles sur la plateforme.
Enquêtes et Actions Récentes
Comme rapporté précédemment, le procureur général de l’Arizona, Kris Mayes, a récemment ouvert une enquête sur xAI, tandis que le procureur général de Californie, Rob Bonta, a envoyé à l’entreprise une lettre de cessation et d’abstention concernant des allégations similaires.