Loi sur les Chatbots de Compagnie en Californie : Un Nouveau Cadre Réglementaire
Une nouvelle loi sans précédent est entrée en vigueur en Californie au début de l’année, imposant des exigences opérationnelles et de reporting liées aux chatbots de compagnie.
Qu’est-ce qu’un Chatbot de Compagnie ?
La loi ne s’applique qu’aux chatbots de compagnie, excluant de nombreux outils de service client, chatbots de jeux vidéo et assistants vocaux. Ces chatbots sont conçus pour répondre aux besoins sociaux ou émotionnels des utilisateurs avec des réponses adaptatives et humaines.
Exigences Opérationnelles Clés
Les opérateurs de chatbots concernés doivent :
- Divulgation requise : Informer clairement les utilisateurs qu’ils interagissent avec un système d’IA si cela peut prêter à confusion.
- Protocoles de sécurité : Mettre en œuvre des protocoles pour empêcher la production de contenu relatif à l’idéation suicidaire. Cela inclut des mesures pour référer les utilisateurs à des services de crise.
- Divulgation de la convenance pour les mineurs : Indiquer que le chatbot peut ne pas convenir à certains mineurs.
- Exigences supplémentaires pour les mineurs : Lorsqu’un utilisateur est mineur, des notifications doivent être fournies régulièrement pour rappeler que le chatbot est une IA, avec des mesures pour éviter tout contenu inapproprié.
Obligations de Reporting et de Transparence
À partir de 2027, les opérateurs devront soumettre des rapports annuels à l’Office de Prévention du Suicide de Californie, détaillant :
- Le nombre de notifications de référence aux services de crise effectuées.
- Les protocoles pour détecter et répondre à l’idéation suicidaire.
- Les mesures pour empêcher les réponses liées à l’idéation suicidaire.
Considérations d’Application et de Responsabilité
La loi crée un droit d’action privé, permettant aux utilisateurs de poursuivre un opérateur qui viole les exigences légales, cherchant des réparations et des frais d’avocats.
Perspectives d’Avenir
Les entreprises doivent évaluer dès maintenant leurs chatbots pour déterminer si la loi s’applique et mettre en œuvre les changements nécessaires pour se conformer. Cette législation, bien qu’unique, pourrait ouvrir la voie à d’autres régulations similaires.