Analyse des Nouvelles Lois sur les Chatbots Compagnons
Obligations Légales pour les Entreprises
Les entreprises exploitant des chatbots compagnons en Californie ou à New York sont soumises à de nouvelles obligations légales, notamment la fourniture de notifications aux utilisateurs et la mise en place de protocoles pour prévenir l’automutilation.
Depuis le 1er janvier 2026, la loi sur les chatbots compagnons de Californie (SB 243) est entrée en vigueur après avoir été signée par le gouverneur Gavin Newsom le 13 octobre 2025. Cette loi impose aux opérateurs de chatbots compagnons la mise en œuvre de garanties « critiques, raisonnables et atteignables » concernant l’utilisation et l’interaction avec ces chatbots, en mettant l’accent sur la protection des mineurs.
La loi de New York, entrée en vigueur le 5 novembre 2025, impose également des obligations similaires aux opérateurs de chatbots compagnons.
Contexte
Avec l’intelligence artificielle s’immisçant dans presque tous les aspects de notre vie technologique, les chatbots représentent l’une des formes les plus accessibles de cette technologie. Les chatbots compagnons sont conçus pour engager des interactions semblables à celles des humains, basées sur les habitudes et préférences des utilisateurs. Cependant, des inquiétudes croissantes parmi les parties prenantes — médias, gouvernement et utilisateurs — émergent concernant ces interactions et leurs conséquences sociétales potentielles.
Comparaison des Statuts des Chatbots Compagnons de New York et de Californie
Le tableau ci-dessous résume les définitions, obligations légales et mécanismes d’application des lois de New York et de Californie.
Définitions
- Opérateur : En New York, toute entité qui fournit un chatbot compagnon à un utilisateur ; en Californie, toute personne qui rend disponible une plateforme de chatbot compagnon à un utilisateur dans l’État.
- Chatbot Compagnon : En New York, un système utilisant l’IA conçu pour simuler une relation humaine ; en Californie, un système capable de répondre aux besoins sociaux de l’utilisateur sur plusieurs interactions.
Obligations de Notification aux Utilisateurs
Les opérateurs doivent fournir une notification claire indiquant que l’utilisateur interagit avec un chatbot IA, au moins une fois par jour et toutes les trois heures pour les interactions continues.
Obligations Spécifiques aux Mineurs
En Californie, les opérateurs doivent informer les mineurs qu’ils interagissent avec une IA, leur rappeler de faire des pauses, et mettre en place des mesures pour prévenir la production de contenu inapproprié.
Mécanismes d’Application
En New York, le bureau du procureur général peut engager des actions contre les opérateurs non conformes. En Californie, des rapports annuels seront exigés à partir du 1er juillet 2027 concernant les références aux services de crise.
Implications Potentielles
Les entreprises doivent évaluer leurs offres de chatbots et déterminer si elles entrent dans la définition d’« opérateur ». Si tel est le cas, elles doivent prendre des mesures pour assurer la conformité aux obligations légales, notamment en mettant en œuvre des protocols de transparence.
En Californie, il est également nécessaire de suivre si un utilisateur est mineur et de développer des mécanismes pour surveiller les références aux services de crise.