Importance de l’implication des patients dans la gouvernance de l’IA en santé
Les hôpitaux et les systèmes de santé sont sous pression pour garantir que leurs outils d’intelligence artificielle (IA) soient sûrs, équitables et bénéfiques pour tous. Malgré le fait que les patients soient les principaux bénéficiaires de ces technologies, ils sont souvent exclus des processus de gouvernance, qui restent généralement entre les mains des médecins, des data‑scientists et des éthiciens.
Le modèle de Stanford Health Care
Stanford Health Care (SHC) a démontré qu’une approche inclusive est possible. Le programme de gouvernance éthique de l’IA de SHC a été développé avec les professeurs Danton Char, MD, et Nigam Shah, PhD, de la Stanford University School of Medicine. Le projet a recruté 14 patients pour former le Patient Partner Panel (PPP), une communauté d’apprentissage à long terme.
Les membres du PPP reçoivent une formation de base sur les principes de l’IA et participent à des sessions d’apprentissage à distance continues. Chaque mois, ils prennent part à des groupes de discussion où ils abordent les questions d’éthique de l’IA à l’aide d’explications simplifiées et de questions centrées sur les valeurs patients.
Processus d’évaluation et contributions des patients
Les discussions sont transcrites, analysées par des éthiciens, puis synthétisées pour générer des recommandations à destination des dirigeants du système de santé. Après un an, les responsables du programme constatent que les patients offrent des insights actionnables et pertinents sans ralentir le calendrier des évaluations.
Par exemple, grâce à l’expérience vécue des patients, le panel a pu identifier des problèmes de flux de travail clinique où l’IA était déployée, permettant ainsi d’ajuster les algorithmes et les interfaces pour mieux répondre aux besoins réels des usagers.
Financement et portée
Le projet a bénéficié du soutien financier de Stanford Impact Labs et du Patient‑Centered Outcomes Research Institute (PCORI). Bien que les conclusions de l’article reflètent les points de vue des auteurs, elles ne représentent pas nécessairement ceux de PCORI.
Enseignements clés
1. Inclusion réelle des patients : Les patients peuvent participer activement à la gouvernance de l’IA, même dans des contextes techniques.
2. Formation adaptée : Des programmes de formation simples mais complets permettent aux patients de comprendre les fondamentaux de l’IA.
3. Valeur ajoutée : Les contributions patientes améliorent la pertinence clinique des outils d’IA et renforcent la confiance du public.
4. Viabilité opérationnelle : L’implication des patients n’entraîne pas de retards significatifs dans les processus d’évaluation.
Conclusion
Intégrer les patients dans la gouvernance de l’IA en santé représente une avancée majeure vers des systèmes plus équitables et responsables. Le modèle de Stanford Health Care montre qu’une collaboration structurée, soutenue par la formation et le financement adéquat, peut produire des résultats tangibles, tout en plaçant les besoins et les valeurs des patients au cœur du développement technologique.