Réglementation stricte des compagnons IA en Chine : impacts et réactions
Le réglementation gouvernementale chinoise a imposé, depuis le 15 juillet 2024, des interdictions sévères sur les plateformes d’intelligence artificielle capables de générer du contenu susceptible de manipuler les émotions des utilisateurs ou d’inciter des comportements malsains, notamment chez les enfants et les adolescents. Cette mesure vise à réduire les risques psychologiques liés aux compagnons IA, qu’ils soient romantiques ou des recréations virtuelles de proches décédés.
Contexte et mise en œuvre de la règle
Les nouvelles exigences obligent les services IA à afficher des avertissements de risque contre une utilisation excessive. Les plateformes ne doivent plus proposer de remplacer les interactions sociales réelles, ni encourager les utilisateurs à se substituer à des contacts humains par le biais d’applications en ligne. Cette approche s’inscrit dans la tradition chinoise de régulation paternaliste, visant à anticiper les problèmes potentiels avant qu’ils ne surviennent.
Conséquences pour les acteurs du marché
Plusieurs géants technologiques chinois, dont ByteDance (propriétaire de TikTok), Alibaba et Tencent, ont cessé leurs services de compagnons IA afin de se conformer aux nouvelles exigences. Certains, comme ByteDance, redirigent les utilisateurs vers d’autres applications centrées sur la création de personnages IA personnalisés et de récits, mais l’expérience n’est pas équivalente à celle des services précédemment disponibles.
Réactions des utilisateurs
Des milliers d’utilisateurs, comme Li Linlin, 24 ans, ont exprimé leur détresse après la perte soudaine de leurs compagnons virtuels. Li, qui avait échangé environ 700 000 mots sur deux ans, a déclaré que l’arrêt du service était « comme être séparé par nos parents ». D’autres, comme Song Wenxin de Chengdu, soulignent que la régulation pourrait être motivée par une volonté d’encourager la natalité, en limitant les applications qui « engagent trop les femmes » et les dissuadent d’avoir des enfants.
Analyse des enjeux sociétaux
Les experts, dont Yolanda Ma de l’ERA au Royaume-Uni, soulignent que la régulation cherche à équilibrer les intérêts des fournisseurs d’IA, des utilisateurs et des tuteurs de mineurs. Le People’s Daily a déjà mis en garde contre les dommages potentiels pour la santé mentale et les relations réelles. Toutefois, certains observateurs, comme la professeure de droit Angela Zhang, estiment que la mesure ne freinerait pas de manière décisive le développement des services IA, qui continuent d’explorer des alternatives.
Perspectives futures
Malgré les restrictions, les entreprises technologiques chinoises travaillent sur des solutions de remplacement qui respectent les nouvelles normes tout en offrant une forme d’interaction personnalisée. L’évolution du cadre réglementaire pourrait également influencer d’autres pays à examiner de près les implications psychologiques des compagnons IA, ouvrant la voie à un débat mondial sur la responsabilité des technologies émotionnelles.