Réglementation des chatbots IA en Oregon
Les législateurs de l’Oregon, qui ont « manqué le coche » en matière de réglementation des réseaux sociaux, tentent maintenant de s’attaquer aux effets des technologies émergentes sur les jeunes, en particulier avec la réglementation des chatbots d’intelligence artificielle.
Présentation du projet de loi
Le sénateur Lisa Reynolds, de Portland, et le comité de la santé comportementale et de la petite enfance qu’elle préside, soutiennent le Projet de Loi 1546 visant à réguler les chatbots IA. Ce projet a été voté à 4-1 pour avancer au Sénat avec des amendements.
Le projet de loi obligerait les programmes d’IA tels que ChatGPT à rappeler plus régulièrement aux utilisateurs qu’ils interagissent avec un outil d’intelligence artificielle, et non avec un humain.
Utilisation des IA chez les adolescents
L’utilisation des chatbots IA parmi les adolescents est de plus en plus courante, avec 72% des adolescents utilisant des compagnons IA, et plus de 50% en tant qu’utilisateurs réguliers, selon l’organisation à but non lucratif Common Sense Media. D’autres recherches de l’organisation montrent qu’un tiers des adolescents trouvent les conversations avec des chatbots IA aussi satisfaisantes, voire plus, que les conversations en face à face.
Robbie Torney, responsable des évaluations digitales chez Common Sense Media, a noté que les adolescents utilisent les chatbots IA comme compagnons pour un soutien émotionnel ou pour discuter de santé mentale. Cependant, les tests ont montré que ces chatbots manquent de détecter des signaux d’alerte subtils que d’autres humains pourraient percevoir.
Prévention du suicide
Au-delà de l’accès des jeunes, l’intention du projet de loi est de protéger toute personne exprimant des tendances suicidaires. Il exigerait des programmeurs de développer des protocoles pour détecter les signes de pensées suicidaires ou d’automutilation. En cas de détection, les plateformes seraient tenues de diriger les utilisateurs vers une ligne d’assistance téléphonique pour la prévention du suicide et d’interrompre immédiatement la conversation.
Collaboration avec des organismes
Reynolds a été en contact avec Lines for Life, une ligne de crise basée en Oregon, pour éventuellement inclure des ressources de santé mentale que les chatbots IA pourraient offrir. Les bénévoles de la hotline ont déjà constaté l’impact des IA sur les utilisateurs en crise.
Réactions à la législation
Bien que la plupart des responsables de l’industrie technologique soutiennent le projet de loi, certains ont exprimé des préoccupations concernant les exigences de notification plus fréquentes que celles d’autres États. Le projet de loi a été amendé pour s’aligner sur les dispositions d’autres États concernant les notifications.
Il est à noter que le projet pourrait faire face à des défis juridiques s’il est adopté, en raison d’un décret exécutif signé par l’ancien président Donald Trump en décembre, limitant la réglementation étatique des services IA.
Reynolds insiste sur la nécessité d’agir rapidement pour introduire des limites sur l’utilisation non régulée de l’IA, en apprenant des erreurs commises avec les réseaux sociaux.