Les chatbots IA face aux nouvelles règles de sécurité au Royaume-Uni
Le gouvernement britannique a annoncé lundi l’inclusion des chatbots IA dans les lois sur la sécurité en ligne, comblant une lacune exposée après que le chatbot IA Grok d’Elon Musk ait été utilisé pour créer des deepfakes sexualisés.
Responsabilité des fournisseurs de chatbots
Les fournisseurs de chatbots seront désormais responsables d’empêcher la génération de contenu illégal ou nuisible, élargissant ainsi des règles qui ne s’appliquaient auparavant qu’au contenu partagé entre utilisateurs sur les réseaux sociaux.
Cette décision fait suite à une réaction internationale contre Grok, qui a permis aux utilisateurs de créer et de partager des images sexualisées de femmes et d’enfants à l’aide de simples invites textuelles.
Nouvelles mesures gouvernementales
Le Premier ministre Keir Starmer a déclaré dans un communiqué : « Les nouvelles mesures annoncées aujourd’hui comprennent une répression contre le contenu illégal et odieux créé par l’IA. » Il a ajouté que le gouvernement agirait rapidement pour fermer une lacune légale et obliger tous les fournisseurs de chatbots IA à respecter les obligations liées au contenu illégal dans le cadre de la Loi sur la sécurité en ligne, sous peine de sanctions.
Obligations sous la Loi sur la sécurité en ligne
La Loi sur la sécurité en ligne, entrée en vigueur en juillet, impose aux plateformes hébergeant du contenu potentiellement nuisible des vérifications d’âge strictes par le biais d’outils tels que l’imagerie faciale ou des vérifications de cartes de crédit.
Il est également illégal pour les sites de créer ou de partager des images intimes non consensuelles ou du matériel d’abus sexuel d’enfants, y compris des deepfakes sexuels générés par l’IA.
Enquêtes en cours
En janvier, le régulateur des médias du Royaume-Uni, Ofcom, a ouvert une enquête sur la plateforme de médias sociaux X, qui héberge Grok, pour manquement à ses obligations de sécurité. De plus, l’autorité de protection des données du pays a lancé une enquête plus large sur X et xAI — qui a développé l’outil IA Grok — pour déterminer si les entreprises ont respecté la loi sur les données personnelles concernant la génération de deepfakes sexualisés.
Adaptation législative face à l’innovation technologique
Ofcom a noté que tous les chatbots IA ne sont pas régulés sous la Loi sur la sécurité en ligne, notamment ceux qui « permettent uniquement aux utilisateurs d’interagir avec le chatbot lui-même sans interaction avec d’autres utilisateurs ». Starmer a souligné que « la technologie évolue si rapidement que la législation a du mal à suivre » et a insisté sur la nécessité de prendre les mesures adéquates pour les chatbots IA.
Initiatives pour la protection des enfants en ligne
Le gouvernement travailliste intensifie ses efforts pour protéger les enfants en ligne, ayant lancé une consultation sur une interdiction des médias sociaux pour les moins de 16 ans, tout en considérant des mesures pour limiter des fonctionnalités telles que le défilement infini sur les réseaux sociaux.
En janvier 2025, Starmer a promis de réduire la paperasse pour attirer des milliards de livres d’investissement dans l’IA et aider le Royaume-Uni à devenir une superpuissance de l’IA.