Les IA « thérapeutes » sous le feu des États alors que l’usage des chatbots de santé mentale explose
Les outils de santé mentale basés sur l’IA passent rapidement du stade de nouveauté à celui de l’usage courant. Face à cette évolution, les régulateurs commencent à tracer des limites plus nettes sur ce que ces technologies peuvent prétendre offrir. Des poursuites récentes contre Character Technologies Inc., la société derrière Character.ai, accusent la plateforme d’héberger des bots se faisant passer pour des thérapeutes agréés, dont l’un aurait revendiqué de fausses qualifications professionnelles et mené des dizaines de milliers d’interactions avec des patients.
Un vide réglementaire fédéral comblé par les États
En l’absence d’un cadre fédéral complet, plusieurs États ont pris l’initiative de légiférer. Le Colorado, le Maine, le Rhode Island, le Tennessee et le Vermont ont adopté des restrictions sur les IA thérapeutiques, rejoignant le Illinois, le Nevada et l’Utah. Ces lois, bien que variables dans leur portée, partagent des thèmes communs :
- Interdiction de publiciser une IA comme un professionnel de santé mentale agréé.
- Limitation de l’engagement direct des IA avec les patients en contexte clinique.
- Renforcement de la surveillance des chatbots destinés aux enfants.
Distinction entre chatbots généralistes et thérapeutiques
Les régulateurs et les cliniciens différencient désormais les chatbots à usage général, parfois qualifiés de « poche-thérapeutes », des thérapies numériques spécialement conçues avec des garde-fous cliniques et des bases de données thérapeutiques. Cette distinction est cruciale pour déterminer le niveau de contrôle et de responsabilité requis.
Implications pour les développeurs et les entreprises
Les entreprises qui développent ou déploient des IA dans les domaines de la santé, du bien‑être, de l’engagement des jeunes ou du support client doivent repenser plusieurs aspects :
- Conception du produit et revendications marketing.
- Contrôle d’âge et mécanismes de filtrage.
- Escalade des crises et mise en place de protocoles d’urgence.
- Clauses de non‑responsabilité et supervision professionnelle.
- Conformité aux législations étatiques, qui forment un patchwork complexe.
Absence d’autorisation fédérale et risques futurs
À ce jour, la Food and Drug Administration n’a pas autorisé les outils d’IA générative pour le traitement de la santé mentale. Les groupes professionnels appellent le Congrès et les agences fédérales à établir des normes claires. En attendant, les entreprises doivent s’attendre à :
- Un risque de litiges accrus.
- Une surveillance réglementaire plus stricte au niveau étatique.
- Une exigence croissante de transparence et de preuves d’efficacité clinique.
En somme, l’essor des chatbots de santé mentale impose une réévaluation urgente des pratiques de conception, de marketing et de conformité, afin d’assurer la sécurité des utilisateurs, notamment des mineurs, tout en anticipant les évolutions législatives à venir.