Régulation des Chatbots IA pour Enfants et Adolescents en Pennsylvanie
Alors que les chatbots d’intelligence artificielle (IA) non réglementés gagnent en popularité et suscitent des inquiétudes concernant la sécurité, le Sénat de l’État a presque unanimement adopté un projet de loi visant à réguler les services dits de compagnons IA.
Proposition de Loi
La proposition, parrainée par le sénateur Tracy Pennycuick (R-Montgomery), établit une série de garanties limitées pour les opérateurs de services de chatbot — définis comme des algorithmes d’IA générative qui simulent des relations humaines avec l’utilisateur. Parmi ces garanties, certaines ne seront requises que lorsque l’opérateur sait ou soupçonne qu’un utilisateur est mineur. Cependant, il n’est pas explicitement requis de vérifier l’âge.
Importance de la Régulation
La loi a attiré un groupe bipartisan de co-sponsors. Seul le sénateur Doug Mastriano (R-Franklin) s’est opposé à la mesure. Pennycuick a déclaré : “Ces systèmes sont conçus pour simuler l’interaction humaine, et pour les utilisateurs vulnérables, ils peuvent sembler très réels.” Il a également mentionné plusieurs poursuites contre des entreprises d’IA dont les produits ont été accusés d’aider au suicide et à l’automutilation.
Mesures de Sécurité
La mesure exige que tous les opérateurs de compagnons IA prennent des mesures pour s’assurer que leurs produits ne promeuvent pas l’automutilation, le suicide ou la violence envers autrui. Elle les oblige également à fournir aux utilisateurs des ressources réelles, comme le numéro d’une ligne d’assistance en cas de discussion sur des comportements autodestructeurs.
Les opérateurs seraient tenus de publier des protocoles connexes sur leur site web accessible au public.
Protection des Mineurs
Lorsque l’on soupçonne qu’un utilisateur est mineur, le projet de loi exigerait que les opérateurs informant les utilisateurs qu’ils ne sont pas humains, leur rappellent cela toutes les trois heures et leur suggèrent de faire une pause. De plus, lorsque les services sont utilisés par un mineur connu de l’opérateur, il leur serait interdit de générer du contenu visuel à caractère sexuel explicite ou d’encourager les utilisateurs à adopter des comportements sexuels explicites.
Toute application de chatbot destinée aux mineurs devra également notifier les utilisateurs qu’elle peut ne pas convenir aux personnes de moins de 18 ans.
Sanctions et Application
Le projet de loi charge le bureau du procureur général de l’État d’appliquer la loi et permettrait des pénalités civiles allant jusqu’à 10 000 $ pour les opérateurs de services IA qui enfreignent ces règles.
Dans une déclaration faite après le vote du Sénat, un législateur a remercié Pennycuick et les autres législateurs pour leur soutien à une législation de bon sens. “Les dangers potentiels liés à la dépendance excessive à l’intelligence artificielle sont très réels, comme nous l’avons vu avec les chatbots en ligne jouant des rôles dans de nombreuses tragédies à travers le pays”, a-t-il déclaré.
Prochaines Étapes
La proposition doit encore être adoptée par la Chambre contrôlée par les démocrates et signée par le gouverneur Josh Shapiro pour devenir loi. Shapiro a déjà déclaré qu’il cherchait des moyens de réguler les services de chatbots IA.