Régulations sur les compagnons de chatbots IA : un appel du Gouverneur de Washington Bob Ferguson
La compagnie IA connaît une croissance rapide, notamment chez les mineurs. Environ un tiers des adolescents américains rapportent compter sur un chatbot IA pour un soutien émotionnel.
Une préoccupation croissante
Cette tendance a incité les régulateurs de l’État de Washington à tirer la sonnette d’alarme après plusieurs cas médiatisés de suicides d’adolescents impliquant des chatbots. Le Gouverneur de Washington, Bob Ferguson, a demandé aux législateurs de soumettre un projet de loi visant à établir des garanties pour les compagnons de chatbots, en particulier pour les mineurs.
Le projet de loi SB 5984
Le projet de loi 5984 exigerait que des outils comme ChatGPT rappellent aux utilisateurs qu’ils sont des robots, et non des humains, au début d’une conversation et au moins toutes les trois heures pendant une interaction continue. Ces règles s’appliqueraient également aux mineurs, avec des protections supplémentaires.
Les chatbots seraient interdits d’avoir des conversations de nature sexuellement explicite avec des utilisateurs mineurs et seraient tenus de les référer à des services de santé mentale lorsqu’ils montrent des signes de risque, y compris des troubles alimentaires.
Des cas tragiques
La semaine dernière, Google et Character.AI ont réglé des poursuites affirmant que leurs chatbots avaient conduit à des crises de santé mentale chez des adolescents. Un porte-parole de Character.AI a déclaré que l’entreprise examinait le projet de loi de Washington et était désireuse de collaborer avec les régulateurs sur des mesures de sécurité pour l’IA.
Un autre cas de suicide d’adolescent impliquant ChatGPT d’OpenAI est toujours en cours de litige. OpenAI et Google n’ont pas répondu aux demandes de commentaires concernant le projet de loi de Washington.
Un besoin urgent de régulation
« Nous avons maintenant plusieurs cas où des chatbots sont impliqués dans des suicides d’enfants », a déclaré la sénatrice de l’État Lisa Wellman, sponsor du projet de loi. « C’est la partie visible des dommages que vous pourriez constater. Il y a d’autres cas où des enfants sont émotionnellement dévastés à cause de l’IA. »
Wellman a ajouté que Washington travaillait à coordonner son approche réglementaire de l’IA avec d’autres États, comme Californie et Oregon. Le mois dernier, le Président Donald Trump a signé un décret exécutif cherchant à préempter la réglementation étatique de l’IA dans le cadre de la poussée du gouvernement fédéral pour rendre les États-Unis plus compétitifs dans les technologies de pointe. La légalité de cet ordre fait l’objet de débats.
En attendant, Washington avance avec une série de régulations sur l’IA lors de la prochaine session législative. « Nous voulons être en avance sur tout dommage supplémentaire que cette technologie pourrait causer », a conclu Wellman.