Réglementation de l’utilisation de l’IA en thérapie en Californie
Contexte législatif
Un projet de loi, le Senate Bill 903, a été introduit au sein de la législature de l’État de Californie afin de limiter l’usage de l’intelligence artificielle (IA) dans le domaine de la santé mentale.
Principales dispositions du projet de loi
Interdiction de la publicité trompeuse : Les entreprises d’IA ne peuvent plus promouvoir leurs services comme thérapeutiques lorsqu’ils sont fournis par des chatbots compagnons. Cette mesure vise à éviter la confusion du public quant à la nature véritable de l’assistance offerte.
Revue par un professionnel agréé : Toute décision thérapeutique prise par une IA doit être examinée et validée par un professionnel de santé licencié. L’IA ne peut donc pas prendre de décisions cliniques de manière autonome.
Déclarations des parties prenantes
Le sénateur démocrate Steve Padilla a déclaré que, bien que l’IA puisse être utile pour les tâches administratives et l’assistance aux cliniciens, elle ne doit pas conduire des séances de psychothérapie. Il a souligné que la technologie évolue à une vitesse « lumineuse », rendant son impact à la fois puissant et potentiellement conséquent.
Objectifs des partisans du texte
Les soutiens du projet souhaitent empêcher le remplacement des praticiens de santé mentale par des systèmes d’IA, afin de garantir que les patients reçoivent des soins humains, éthiques et supervisés.
Implications pour le futur de la santé mentale
Cette initiative législative pourrait servir de modèle national ou même international pour encadrer l’usage de l’IA dans les soins psychothérapeutiques, en équilibrant innovation technologique et protection du patient.