Appel du gouverneur de Washington Bob Ferguson pour des régulations sur les compagnons chatbots IA
La compagnie IA connaît une croissance rapide, surtout parmi les mineurs. Environ un tiers des adolescents américains rapportent s’appuyer sur un chatbot IA pour un soutien émotionnel.
Cette tendance a amené les régulateurs de l’État de Washington à tirer la sonnette d’alarme à la suite de plusieurs cas médiatisés de suicides d’adolescents impliquant des chatbots. Le gouverneur de Washington, Bob Ferguson, a demandé aux législateurs d’introduire un projet de loi qui établirait des garanties pour les compagnons chatbots, en particulier pour les mineurs.
Projet de loi 5984
Le Projet de loi 5984 exigerait que des outils comme ChatGPT rappellent aux utilisateurs qu’ils sont des robots, et non des humains, au début d’une conversation et au moins toutes les trois heures lors d’une interaction prolongée. Ces règles s’appliquent également aux mineurs, en plus de protections supplémentaires. Les chatbots seraient interdits d’avoir des conversations à caractère sexuel explicite avec des utilisateurs mineurs et seraient tenus de les orienter vers des services de santé mentale lorsqu’ils montrent des signes de souffrance, y compris des troubles alimentaires.
La semaine dernière, Google et Character.AI ont réglé des poursuites affirmant que leurs chatbots avaient conduit à des crises de santé mentale chez des adolescents.
Un porte-parole de Character.AI a déclaré que la société examine le projet de loi de Washington et est désireuse de travailler avec les régulateurs sur des garde-fous IA. La société a récemment cessé de permettre des discussions ouvertes avec des mineurs après qu’un adolescent a développé un attachement fort à l’un de ses chatbots et a mis fin à ses jours.
« Notre priorité absolue est la sécurité et le bien-être de nos utilisateurs, y compris des jeunes audiences », a déclaré le porte-parole.
Cas médiatisés et préoccupations
Un autre cas de suicide d’adolescent impliquant ChatGPT d’OpenAI est encore en cours de litige. OpenAI et Google n’ont pas répondu aux demandes de commentaires concernant le projet de loi de Washington.
« Nous avons maintenant plusieurs cas concrets où des chatbots sont impliqués dans des suicides d’enfants », a déclaré la sénatrice de l’État Lisa Wellman, sponsor du projet de loi. « C’est la partie visible des dommages que vous pourriez voir concernant le préjudice. Il existe d’autres cas où des enfants sont émotionnellement dévastés à cause de l’IA. Nous ne savons pas nécessairement tout ce qui se passe, mais nous savons que l’IA est capable d’établir une dépendance émotionnelle et de fournir des informations et des conseils aux enfants. »
Coordination réglementaire
Wellman a déclaré que Washington travaille à coordonner son approche réglementaire de l’IA avec d’autres États, comme la Californie et l’Oregon. Le mois dernier, le président Donald Trump a signé un ordre exécutif cherchant à prévenir la réglementation étatique de l’IA dans le cadre de la poussée du gouvernement fédéral pour rendre les États-Unis plus compétitifs dans la technologie de pointe. La légalité de cet ordre fait l’objet de débats. En attendant, Washington avance avec une gamme de réglementations sur l’IA lors de la prochaine session législative.
« Nous voulons être en avance sur tout dommage et préjudice supplémentaire qui pourrait être causé par une technologie qui est sur le marché », a déclaré Wellman.
Cet article fait partie des efforts plus larges pour garantir que chacun ait accès à un journalisme de qualité qui informe, divertit et enrichit sa vie.