X a tenté d’éviter l’enquête du Brésil sur les deepfakes d’IA, le gouvernement a riposté
Au cours des dernières semaines, le Brésil a été engagé dans une impasse réglementaire avec X concernant son outil d’IA générative, Grok, après que la plateforme a été découverte en train de générer des millions d’images sexualisées — y compris des milliers représentant des mineurs.
Une admission de vulnérabilité
X a reconnu les vulnérabilités sous-jacentes dans une lettre adressée aux autorités brésiliennes le mois dernier, mais a cherché à limiter son exposition légale en arguant que sa filiale brésilienne, sa société mère X Corp, et xAI LLC — la société qui gère Grok — sont des entités légalement distinctes. Ils soutiennent que le compte @Grok devrait être traité comme tout autre utilisateur de la plateforme.
Réaction des régulateurs brésiliens
Les régulateurs brésiliens, les législateurs et les experts juridiques ont rejeté cette argumentation. Après plus d’un mois d’échanges, et avec des preuves que le problème persiste, les régulateurs brésiliens ont intensifié leurs demandes, y compris l’exigence que la société mette en œuvre des mesures de sécurité techniques, accompagnées de la menace d’amendes quotidiennes.
Les exigences du gouvernement brésilien
Selon le Center for Countering Digital Hate, en 11 jours d’opération débutant le 29 décembre, Grok a généré plus de 3 millions d’images sexualisées — dont 23 000 semblaient représenter des mineurs. En janvier, la députée Érika Hilton et l’Idec, l’Institut brésilien de protection des consommateurs, ont demandé au Ministère public fédéral d’initier une enquête et de suspendre Grok dans le pays.
Peu après, X Brasil a envoyé une lettre à la Secrétariat des droits numériques du Ministère brésilien de la Justice, marquée comme “confidentielle” par X, mais publiée par la suite sur le site du gouvernement brésilien. Dans cette lettre, X Brasil a affirmé que le profil @Grok est un compte comme “tout autre compte utilisateur sur la plateforme”, et serait donc “sujet aux mêmes règles et politiques”.
Réponses des autorités
Le Secrétariat des droits numériques a réagi sévèrement, déclarant que X avait tenté de détourner sa responsabilité et qu’elle avait mal caractérisé la nature de son service. Le 20 janvier, une recommandation conjointe de trois agences publiques brésiliennes a été émise, demandant que Grok prenne des mesures pour empêcher la génération d’images sexualisées sans consentement.
Stratégie de X Brasil
Dans une lettre de suivi au gouvernement le 27 janvier, la société a insisté sur le fait que les entités opèrent indépendamment de X Brasil, et que le profil @Grok est géré par xAI LLC. Cependant, des experts soulignent que cette déviation vise à présenter la génération d’images sexualisées comme un contenu généré par les utilisateurs, et donc à exonérer la plateforme X de sa responsabilité.
La lente réaction de X
Dans une lettre envoyée le 19 janvier, X Brasil a déclaré qu’elle avait adopté des “mesures rapides” pour traiter les contenus sexualisés, mais en pratique, la société a mis près de trois semaines pour répondre au problème. Le profil @Grok a publié une “excuse” le 31 décembre concernant la génération d’images sexualisées d’adolescents, mais ce n’est que le 20 janvier que des “solutions techniques complètes” ont été mises en œuvre.
Implications pour la régulation future
Le principal argument du gouvernement brésilien est que X doit démontrer sa conformité avec son “devoir de diligence” et prouver l’absence de “défaillance systémique” qui a permis la circulation généralisée de contenu nuisible sur la plateforme. Cette affaire pourrait également influencer les discussions autour du projet de loi sur l’IA actuellement débattu dans la Chambre des députés du Brésil.
Ce cas de Grok met en lumière les défis croissants auxquels sont confrontées les plateformes d’IA en matière de responsabilité et de réglementation, en particulier en ce qui concerne la protection des utilisateurs vulnérables.