Régulation des chatbots d’IA en Pennsylvanie : Un nouveau cadre proposé
Le gouverneur de la Pennsylvanie, Josh Shapiro, a récemment annoncé des mesures visant à établir des réglementations plus strictes concernant les chatbots d’intelligence artificielle, qu’il considère comme potentiellement trompeurs et nuisibles pour les enfants. Ces nouvelles restrictions pourraient positionner la Pennsylvanie parmi les États cherchant à imposer des garanties à mesure que de plus en plus de jeunes utilisent des chatbots tels que ChatGPT, Meta AI et Gemini.
Une évolution rapide
“Cet espace évolue rapidement,” a déclaré Shapiro lors de son discours sur le budget. “Nous devons agir rapidement pour protéger nos enfants.” Selon une enquête de l’organisation à but non lucratif Common Sense Media, une majorité de jeunes adolescents américains utilise des chatbots, un tiers d’entre eux les employant pour des interactions sociales.
Les risques pour les jeunes
Shapiro a souligné que sans régulation, les enfants et d’autres utilisateurs pourraient souffrir de dommages émotionnels. Il a évoqué des cas tragiques, notamment celui d’un jeune homme qui a développé une relation avec un chatbot et qui a ensuite mis fin à ses jours.
Propositions de régulation
Le gouverneur propose que la Pennsylvanie exige :
- Vérification de l’âge
- Consentement parental
- Interdiction des chatbots produisant du contenu sexuellement explicite ou violent impliquant des enfants.
Shapiro soutient également que les entreprises doivent diriger les utilisateurs mentionnant l’automutilation ou la violence vers les autorités compétentes.
Difficultés d’application
Malgré le soutien général pour ces mesures, des experts soulignent que la mise en œuvre de telles régulations pourrait s’avérer complexe. Hoda Heidari, professeur en éthique et technologies computationnelles à l’Université Carnegie Mellon, a noté que “le diable est dans les détails.” La vérification de l’âge, par exemple, est souvent considérée comme ineffective et pose des risques pour la vie privée.
“Ces questions sont très difficiles, tant d’un point de vue technique que légal,” a-t-elle ajouté. “Falsifier une identification en ligne est relativement facile.”
Les limites des garanties actuelles
Heidari a également mentionné que les entreprises d’IA explorent des moyens de bloquer la création de contenus inappropriés, mais que les garde-fous actuels peuvent être contournés. “Il existe de nombreuses manières de pousser un chatbot à générer le type de contenu que vous avez en tête,” a-t-elle déclaré.
Un cadre de régulation en développement
Le gouverneur Shapiro a appelé les législateurs à développer une législation qui protège les enfants et autres utilisateurs vulnérables des risques associés à l’utilisation des chatbots. Un projet de loi bipartisan en cours dans le Sénat de l’État établirait des normes adaptées à l’âge et exigerait des mesures de sécurité contre les contenus encourageant l’automutilation, le suicide ou la violence.
Un système patchwork
Alors que les gouvernements des États continuent de prendre des mesures pour réguler l’IA, la question demeure de savoir comment ces protections seront appliquées et quelles sanctions seront imposées aux entreprises dont les chatbots enfreignent les règles. “Ce sont des exigences qui seront très difficiles à appliquer,” a averti Heidari.
Elle a cependant souligné que cette difficulté ne devrait pas décourager les agences de tenter d’établir des régulations. “Les régulations sur la sécurité de l’IA devraient être développées dans le cadre d’un modèle de gestion des risques plus large,” a-t-elle expliqué.
En conclusion, avec la montée en puissance des chatbots et de l’IA, la Pennsylvanie pourrait émerger comme un acteur majeur de la régulation de ces technologies, sous l’impulsion des efforts renouvelés de l’administration Shapiro.