Pourquoi la décision de X concernant Grok marque un tournant pour l’éthique de l’IA
La plateforme X, dirigée par Elon Musk, a récemment mis en place des restrictions majeures sur son outil d’IA, Grok, après une critique généralisée sur son potentiel à créer des images sexualisées de personnes réelles.
La société a confirmé que dans les juridictions où cela est illégal, Grok ne pourra plus modifier les photos d’individus pour les représenter en vêtements révélateurs. Dans une annonce sur X, il est mentionné : « Nous avons mis en œuvre des mesures technologiques pour empêcher le compte Grok d’autoriser la modification d’images de personnes réelles en vêtements révélateurs. »
Réactions aux restrictions de Grok
L’organe de régulation britannique, Ofcom, a ouvert une enquête formelle sur X dans le cadre de la Loi britannique sur la sécurité en ligne pour déterminer si la plateforme a respecté ses obligations de protéger les utilisateurs du contenu illégal.
Ofcom a déclaré : « Nous sommes conscients des préoccupations sérieuses soulevées concernant une fonctionnalité de Grok produisant des images dénudées et sexualisées d’enfants. »
Suite à l’annonce des mesures mises en place par X, Ofcom a commenté : « C’est un développement bienvenu. Cependant, notre enquête formelle se poursuit. »
Critiques et enquêtes internationales
Ce n’est pas seulement au Royaume-Uni que les critiques se font entendre. En Californie, le procureur général a lancé une enquête sur la diffusion de deepfakes sexuels explicites, y compris des contenus impliquant des mineurs, générés par Grok.
X a déclaré : « Nous bloquons désormais la capacité de tous les utilisateurs à générer des images de personnes réelles en maillots de bain ou en sous-vêtements dans les juridictions où cela est illégal. »
La société a également souligné que seuls les abonnés payants conservent l’accès aux outils d’édition d’images de Grok, ce qui constitue une « couche supplémentaire de protection » pour assurer la responsabilité des utilisateurs.
Conflits d’intérêts et gouvernance de l’IA
Malgré ces réponses, les régulateurs mondiaux et les groupes de défense soutiennent que les mesures réactives de X soulignent un problème de gouvernance plus large sur les plateformes d’IA générative.
Des milliers d’images sexualisées d’IA ont circulé sur X ces dernières semaines, suscitant des appels de législateurs et de groupes de femmes pour que Apple et Google interdisent Grok de leurs magasins d’applications.
La double fonction de Musk à la tête de X et de xAI, la société qui développe Grok, intensifie la surveillance des conflits potentiels entre innovation et modération responsable.
Conclusion
Le retournement de X marque un moment crucial dans l’évolution de la gouvernance des plateformes d’IA. Les outils de médias génératifs se heurtent rapidement à des cadres juridiques émergents, obligeant les entreprises technologiques à adopter des garanties applicables contre les abus.
En introduisant des blocages géographiques et en restreignant l’accès aux outils, X a fait un pas vers la reconstruction de la confiance. Cependant, les experts avertissent que l’application stricte des politiques et la transparence continue détermineront si de telles mesures seront efficaces.