Les Enquêtes d’Ofcom sur les Plateformes d’IA – Le Cadre de la Loi sur la Sécurité en Ligne
Depuis l’entrée en vigueur de la Loi sur la Sécurité en Ligne (OSA) il y a moins d’un an, Ofcom a lancé des enquêtes sur plus de 90 plateformes et a infligé six amendes pour non-conformité. Parmi ces amendes, on trouve celles imposées à un site de nudification d’IA pour avoir échoué à mettre en place des contrôles d’âge robustes. Ce mois-ci, Ofcom a ouvert deux nouvelles enquêtes concernant deux services d’IA générative : X (en lien avec son chatbot Grok) et Novi Ltd (en lien avec son service Joi.com). Ces enquêtes mettent en lumière un changement notable dans l’accent mis par le régulateur sur les plateformes alimentées par l’IA.
Comment les Chatbots d’IA Relèvent de la Loi sur la Sécurité en Ligne
Avec l’augmentation de l’utilisation de la technologie des chatbots, le potentiel de préjudice s’accroît également. Selon l’OSA, un chatbot qui répond aux définitions d’un service réglementé ou en fait partie est couvert par les règles de la loi. Tout contenu généré par l’IA partagé par les utilisateurs sur un service de type utilisateur à utilisateur est classé comme contenu généré par l’utilisateur et est réglementé de la même manière que le contenu créé par des humains. Par exemple, un post sur les réseaux sociaux contenant des images nuisibles produites par l’IA est soumis aux mêmes régulations que du contenu similaire créé par une personne.
Cependant, certains chatbots ne sont pas couverts par la loi. Ils échappent à la réglementation s’ils ne permettent qu’une interaction avec le chatbot lui-même (sans interaction avec d’autres utilisateurs), ne recherchent pas plusieurs sites Web ou bases de données lors de la réponse aux utilisateurs, et ne peuvent pas générer de contenu pornographique.
L’Enquête sur X et Grok
Le 12 janvier 2026, Ofcom a ouvert une enquête formelle sur X Internet Unlimited Company suite à des rapports selon lesquels le chatbot Grok était utilisé pour générer et partager du contenu profondément préoccupant, y compris des images intimes non consensuelles et des contenus d’abus sexuel sur des enfants. L’enquête se concentre sur plusieurs dispositions clés de l’OSA :
- Évaluations des Risques de Contenu Illégal (Sections 9 et 10) : Les services réglementés doivent réaliser une évaluation des risques adéquate et suffisante concernant le contenu illégal et doivent mettre à jour cette évaluation avant d’apporter des modifications significatives à leur service.
- Devoirs de Sécurité du Contenu Illégal (Section 11) : Les services doivent prendre des mesures proportionnées pour empêcher les individus de rencontrer du contenu illégal prioritaire.
- Protection des Enfants (Sections 12, 20 et 21) : Les fournisseurs doivent réaliser une évaluation des risques d’accès pour les enfants et utiliser des systèmes proportionnés pour prévenir l’accès à du contenu inapproprié.
- Devoirs concernant la Liberté d’Expression et la Vie Privée (Section 22) : Les services réglementés doivent tenir compte de la protection des utilisateurs contre les violations des lois sur la vie privée.
Ofcom a confirmé que X avait depuis mis en œuvre des mesures pour empêcher l’utilisation du compte Grok à des fins de création d’images intimes. Cependant, l’enquête est toujours en cours pour déterminer ce qui a mal tourné et quelles mesures correctives supplémentaires sont prises.
L’Enquête sur Novi Ltd
Le 15 janvier 2026, Ofcom a annoncé une enquête distincte sur Novi Ltd concernant son service d’IA générative, Joi.com. Cette enquête s’inscrit dans le cadre du programme d’application plus large d’Ofcom sur les mesures d’assurance d’âge dans le secteur des contenus pour adultes.
- Évaluations d’Accès des Enfants (Section 36) : Les fournisseurs doivent réaliser et conserver un enregistrement écrit d’une évaluation d’accès pour déterminer si le service est susceptible d’être accessible aux enfants.
- Protection des Enfants (Section 12) : L’enquête examine également si Novi Ltd a échoué à mettre en œuvre des mesures d’assurance d’âge efficaces pour empêcher les enfants d’accéder à du contenu pornographique.
Un Tournant ?
L’incident Grok a suscité de nombreux appels en faveur de protections légales renforcées, avec des membres du Royaume-Uni demandant des mesures plus strictes pour encadrer l’utilisation des technologies d’intelligence artificielle générative et la sécurité des utilisateurs, en particulier des mineurs.