Grok face à un examen réglementaire en Corée du Sud concernant du contenu explicite généré par IA
La Corée du Sud a initié des actions réglementaires contre Grok, le chatbot IA génératif développé par xAI, suite à des allégations selon lesquelles le système aurait été utilisé pour générer et distribuer des images deepfake à caractère sexuel.
Examen préliminaire par la Commission de protection des informations personnelles
La Commission de protection des informations personnelles du pays a lancé une révision préliminaire pour évaluer si des violations ont eu lieu et si l’affaire relève de son champ légal. Cette révision fait suite à des rapports internationaux accusant Grok de faciliter la création d’images explicites et non consensuelles de personnes réelles, y compris des mineurs.
Implications légales
Selon la Loi sur la protection des informations personnelles de la Corée du Sud, générer ou modifier des images sexuelles de personnes identifiables sans consentement peut constituer un traitement illégal de données personnelles, exposant ainsi les fournisseurs à des actions coercitives.
Préoccupations croissantes
Les inquiétudes se sont intensifiées après que des groupes de la société civile ont estimé que des millions d’images explicites avaient été produites par Grok en très peu de temps, dont des milliers impliquant des enfants.
Enquêtes internationales
Plusieurs gouvernements, y compris ceux des États-Unis, de l’Europe et du Canada, ont ouvert des enquêtes, tandis que certaines parties de l’Asie du Sud-Est ont choisi de bloquer l’accès au service.
Mesures techniques mises en place
En réponse à ces préoccupations, xAI a introduit des restrictions techniques empêchant les utilisateurs de générer ou d’éditer des images de personnes réelles. Les régulateurs coréens ont également exigé des mesures de protection des jeunes plus strictes de la part de xAI, avertissant que le non-respect des contenus criminels impliquant des mineurs pourrait entraîner des sanctions administratives.
Souhaitez-vous en savoir plus sur l’IA, la technologie et la diplomatie numérique ? N’hésitez pas à poser des questions.