Enquête de l’UE sur Grok AI : implications pour la conformité des grandes entreprises technologiques
Le chatbot Grok AI d’Elon Musk fait l’objet d’une enquête par la Commission européenne pour déterminer s’il diffuse du contenu illégal, notamment des images manipulées à caractère sexuel dans l’Union européenne.
Contexte de l’enquête sur Grok AI
BRUXELLES, 26 janvier (Reuters) – La Commission, agissant en tant qu’exécutif de l’Union européenne, a annoncé que son enquête examinera si X a correctement évalué et atténué les risques liés aux fonctionnalités de Grok dans les 27 pays du bloc.
Cadre juridique de l’UE
La Commission rappelle que les deepfakes sexuels non consensuels de femmes et d’enfants sont une forme de dégradation violente et inacceptable. Dans une déclaration, la responsable technologique de l’UE, Henna Virkkunen, a souligné l’importance de cette enquête.
X a fait référence à une déclaration du 14 janvier, dans laquelle il a indiqué que xAI avait restreint l’édition d’images pour les utilisateurs de Grok AI et bloqué les utilisateurs, selon leur localisation, de générer des images de personnes en tenue révélatrice dans “les juridictions où cela est illégal”. Cependant, les pays concernés n’ont pas été identifiés.
Conséquences potentielles pour X
Cette initiative de la Commission, dans le cadre de la Loi sur les services numériques (DSA), exige que les grandes entreprises technologiques prennent des mesures plus efficaces pour lutter contre le contenu illégal et nuisible en ligne. Ceci survient après que Grok a produit des images sexualisées de femmes et d’enfants, suscitant l’inquiétude des régulateurs mondiaux.
Les entreprises risquent des amendes pouvant atteindre 6% de leur chiffre d’affaires annuel mondial en cas de violations de la DSA. Bien que les changements apportés par xAI aient été salués, ils ne résolvent pas tous les problèmes et les risques systémiques. Un responsable de la Commission a déclaré qu’il y avait des raisons de croire que X n’avait pas effectué une évaluation ad hoc lors du déploiement des fonctionnalités de Grok en Europe.
Réactions et critiques
Cette enquête pourrait provoquer des tensions avec l’administration du président Donald Trump, alors qu’une répression de l’UE sur les grandes entreprises technologiques a déjà suscité des critiques et même la menace de tarifs douaniers aux États-Unis.
Virkkunen a déclaré : “Avec cette enquête, nous déterminerons si X a respecté ses obligations légales dans le cadre de la DSA, ou s’il a traité les droits des citoyens européens – y compris ceux des femmes et des enfants – comme des dommages collatéraux de son service.”
Enquête parallèle au Royaume-Uni
La Commission a également élargi une enquête sur X ouverte en décembre 2023 pour établir si l’entreprise a correctement évalué et atténué tous les risques systémiques liés à ses systèmes de recommandation, y compris l’impact de son récent passage à un système basé sur Grok.
Les régulateurs de l’UE ont également averti que X pourrait faire face à des mesures provisoires en l’absence d’ajustements significatifs à son service. En décembre, X avait déjà été sanctionné par une amende de 150 millions d’euros pour avoir enfreint ses obligations de transparence en vertu de la DSA.
Parallèlement, le régulateur britannique des médias, Ofcom, a lancé une enquête distincte pour déterminer si X a respecté ses obligations en vertu de la Loi britannique sur la sécurité en ligne.