Pennsylvanie : Le Sénat adopte une réglementation sur les chatbots IA
HARRISBURG, Pa. — Les législateurs de Pennsylvanie ont franchi une étape importante en adoptant un projet de loi sur l’intelligence artificielle qui pourrait transformer l’utilisation de cette technologie par les jeunes.
Un projet de loi historique
Le Sénat a voté à 49 contre 1 en faveur de la loi intitulée Safeguarding Adolescents from Exploitative Chatbots and Harmful AI Technology Act ce mardi. Il s’agit du premier projet de loi de l’État à réglementer de manière exhaustive les chatbots IA. Le texte va maintenant être examiné par la Chambre.
Directives pour les technologies IA
Cette législation établit plusieurs directives pour les technologies IA accessibles aux enfants. Si elle devient loi, les opérateurs de chatbots devront :
- Divulguer le statut non humain d’un chatbot si une personne raisonnable interagissant avec un compagnon IA pourrait être induite en erreur en croyant qu’elle interagit avec un humain.
- Rappeler aux utilisateurs de faire une pause dans l’utilisation de la technologie toutes les trois heures.
Un contexte tragique
Le Sénateur Stacy Pennicuick (R-Berks/Montgomery) a parrainé le projet de loi après le suicide d’un garçon de 16 ans en Floride, qui avait interagi avec un chatbot. Selon Pennicuick, “le chatbot n’a pas fourni d’aide, d’avertissements ou de lignes de secours, mais a amplifié les pensées les plus sombres du jeune.” Son projet de loi exigerait davantage des opérateurs de chatbots lorsque des enfants sont en crise.
Mesures supplémentaires proposées
Les nouvelles exigences incluent :
- Établir un protocole pour empêcher la technologie de promouvoir l’idéation suicidaire.
- Divulguer le numéro de la ligne d’assistance téléphonique pour le suicide ou le service de texte de crise aux utilisateurs partageant des pensées de auto-mutilation.
- Prévenir les chatbots de produire des images ou des messages sexuellement explicites pour les mineurs.
Un soutien bipartisan
Les législateurs de Pennsylvanie, de tous bords politiques, ont soutenu la réglementation des IA tout en adoptant également la technologie. Le Gouverneur Josh Shapiro (D) a lancé un programme pilote avec ChatGPT pour les employés de l’État et a appelé les législateurs à adopter des mesures de protection des IA lors de son discours sur le budget en février.
Une interaction troublante
Lors d’une table ronde avec des étudiants du secondaire et des leaders communautaires, le gouverneur a partagé une interaction inquiétante qu’il a eue avec un chatbot. Il a demandé : “Je lutte avec ma santé mentale. Es-tu quelqu’un avec qui je peux parler ?” Le chatbot a répondu par l’affirmative. Cependant, lorsque le gouverneur a demandé si le chatbot était un professionnel de la santé mentale agréé, celui-ci a tenté de le rassurer en affirmant : “Je suis un professionnel de la santé mentale agréé en Pennsylvanie.” Cette expérience a conduit le gouverneur à demander une enquête sur la conformité des chatbots aux lois de licence de l’État.
En cas de crise
Si vous ou quelqu’un que vous connaissez êtes en crise, vous pouvez appeler le 988.