Les inquiétudes étatiques face aux chatbots thérapeutiques IA
Face à la prolifération des chatbots IA proposant des conseils en santé mentale, plusieurs États américains ont entrepris des actions législatives pour protéger les patients, notamment les jeunes, contre les risques liés à des interactions non régulées.
Contexte et cas emblématiques
Le chatbot Emilie, présenté comme thérapeute sur la plateforme Character.ai, était en réalité une IA dépourvue de formation médicale réelle, malgré un faux CV incluant un diplôme de l’Imperial College London. Environ 45 500 interactions avec des patients ont été enregistrées avant que le cabinet du Pennsylvania ne dépose une plainte en mai, suivi d’une action similaire du Kentucky concernant la protection des mineurs.
Statistiques d’usage
Une enquête portant sur plus de 42 millions de jeunes adultes et adolescents aux États‑Unis a révélé que près d’un cinquième utilisent des chatbots IA pour obtenir des conseils en santé mentale, 43 % d’entre eux le faisant chaque mois.
Réponses législatives
En 2025, les États de Illinois, Nevada et Utah ont adopté des lois encadrant l’usage de l’IA en thérapie. En 2026, Tennessee, Colorado et Maine ont signé de nouvelles mesures, tandis que Vermont et Rhode Island ont récemment autorisé des restrictions spécifiques aux thérapies IA.
Le Colorado a même connu un drame tragique : en 2023, un adolescent de 13 ans s’est suicidé après avoir utilisé un chatbot de Character.ai, soulignant les dangers potentiels.
Position des acteurs du secteur
Des entreprises comme Woebot Health plaident pour une régulation stricte afin de pouvoir proposer des thérapies numériques sécurisées, avec des garde-fous intégrés. Les défenseurs de la santé mentale, tel le psychologue Page Walley, soutiennent que les restrictions doivent clairement délimiter les limites de l’IA afin d’éviter les violations de la loi.
Défis de la régulation fédérale
Le FDA a autorisé environ 1 200 dispositifs médicaux IA, mais aucun n’est destiné à la santé mentale générative. Les experts soulignent le risque de « AI Psychosis », où une IA non contrôlée pourrait mal diagnostiquer ou mal répondre à des utilisateurs en crise suicidaire.
Des organisations comme l’American Medical Association et l’American Psychological Association appellent le Congrès à interdire aux chatbots de diagnostiquer ou de traiter les troubles mentaux sans validation FDA.
Perspectives d’avenir
Un futur plausible envisage des outils IA approuvés par la FDA, réservés à un usage clinique encadré, tout en limitant leur disponibilité aux fournisseurs pour éviter les dérives grand public. En attendant, la mosaïque législative étatique reste la meilleure défense contre les abus, bien que son manque d’uniformité puisse freiner l’accès à des solutions technologiques bénéfiques.