Le comité rejette le projet de loi régulant les chatbots IA pour des préoccupations juridiques
Un projet de loi visant à réguler les services d’intelligence artificielle conversationnelle, tels que Chat GPT, a échoué en commission en raison de craintes concernant des poursuites judiciaires. Ce projet visait principalement à protéger les mineurs.
Contexte du projet de loi
Le Senate Bill 168 réglemente l’utilisation des «services d’IA conversationnelle». Cela est défini comme une IA accessible au public et qui fonctionne principalement pour simuler une conversation humaine à travers des communications textuelles, visuelles et audio, à l’exception de certaines applications spécifiques.
Exigences du projet de loi
Le projet de loi stipule que ces chatbots doivent divulguer qu’ils ne sont pas humains pour tous les utilisateurs, et plus fréquemment pour les mineurs. Les protections pour les mineurs incluent l’interdiction pour l’IA de produire des déclarations visuelles ou auditives contenant du contenu sexuellement explicite. Les chatbots IA doivent également répondre à des idées suicidaires ou à des comportements autodestructeurs en dirigeant l’humain en crise vers des ressources appropriées.
Préoccupations soulevées
La sénatrice Liz Larson a souligné que ces mesures visent à traiter des problèmes graves. Elle a mentionné des cas où des mineurs ont mis fin à leurs jours après avoir interagi avec des systèmes d’IA. « Ces cas extrêmes mettent en lumière un véritable problème. Les systèmes d’IA conversationnelle sont généralement optimisés pour augmenter l’engagement, ils ont tendance à acquiescer aux utilisateurs, à refléter les émotions et à éviter les désaccords », a déclaré Larson.
Arguments des opposants
Le seul opposant au projet de loi, le lobbyiste de Sanford Health, TJ Nelson, a affirmé que ce type de législation devrait relever du niveau fédéral. Il a fait référence à la Federal Trade Commission et à la Children’s Online Privacy Protection Act. « Nous devons nous conformer à ce qui est en vigueur aujourd’hui, et nous ne pouvons pas sortir de nos limites pour respecter ces lois fédérales », a déclaré Nelson.
Résultat du vote
Le projet de loi a été rejeté par un vote de six à zéro jeudi dernier au sein du sénat de la commission judiciaire. La commission a exprimé le souhait de voir des travaux supplémentaires sur le projet de loi pour le soutenir à l’avenir.