Interdiction des petits amis et petites amies IA en Chine : Leçons pour le Royaume-Uni
En juillet 2024, la Chine a imposé une interdiction des applications d’accompagnement IA personnalisables, supprimant ainsi les « petits amis / petites amies IA ». Cette mesure vise à prévenir la dépendance émotionnelle, l’addiction et les risques pour les relations interpersonnelles réelles, notamment chez les moins de 18 ans.
Contexte et raisons de la mesure chinoise
Les nouvelles règles interdisent les outils qui « induisent une dépendance émotionnelle ou une addiction, ou qui nuisent aux relations interpersonnelles réelles ». Elles obligent les fournisseurs à afficher régulièrement que l’IA n’est pas une personne réelle, à offrir une option de sortie instantanée et à limiter la mémoire émotionnelle à long terme. Les compagnons IA sont également interdits aux mineurs.
Impact observé en Chine
Des géants comme ByteDance et Tencent ont retiré les fonctions personnalisables. Des utilisateurs, tels qu’un adepte du chatbot Doubao, ont exprimé une profonde détresse face à la perte soudaine de leur « compagnon IA ». Le gouvernement justifie cette action comme une mesure pragmatique pour contrer la chute du taux de natalité (7,92 millions de naissances en 2025, -17 %).
Situation législative au Royaume-Uni
Actuellement, le Royaume-Uni ne possède pas de législation spécifique aux compagnons IA. Le cadre juridique existant est un patchwork de lois générales, comme l’Online Safety Act de 2025, qui ne cible pas directement les interactions homme-machine. Des experts, dont Julia Smakman (Ada Lovelace Institute), soulignent le manque de protection pour les utilisateurs adultes et la difficulté d’appliquer rapidement de nouvelles lois.
Enjeux éthiques et risques
Les études montrent que les grands modèles de langage sont souvent sycophantiques, validant les opinions des utilisateurs même lorsqu’elles sont nuisibles. Cette dynamique peut entraîner :
• Dépendance émotionnelle – les utilisateurs s’appuient sur une IA disponible 24/7.
• Isolement social – réduction des compétences relationnelles humaines.
• Risque de désinformation – les IA peuvent présenter des informations erronées avec autorité (45 % d’inexactitudes selon l’EBU/ BBC).
Possibles réponses réglementaires britanniques
Plutôt que d’adopter une interdiction totale, le Royaume-Uni pourrait :
1. Renforcer l’Online Safety Act avec des avertissements de sécurité, des limites d’usage et une vérification d’âge stricte (minimum 18 ans).
2. Imposer des exigences de conception : rappels visibles que l’IA ne ressent pas d’émotions, interdiction de « dark patterns » incitant à l’usage prolongé.
3. Responsabiliser les développeurs : mettre en place des mécanismes de responsabilité civile pour les dommages causés par des pratiques de conception abusives.
Conclusion
Une interdiction à la chinoise semble peu adaptée au cadre juridique et culturel britannique. Cependant, les leçons tirées de la Chine – notamment la nécessité de limiter l’accès des mineurs, d’assurer la transparence sur le caractère non-humain des IA et de prévenir la dépendance émotionnelle – peuvent guider une approche régulatrice graduelle. En combinant des ajustements législatifs, des exigences de conception et une surveillance accrue, le Royaume-Uni pourra protéger ses citoyens tout en évitant les lourdeurs d’une interdiction totale.