Gestion de la gouvernance de l’IA dans le secteur de la santé : Ce que les conseils doivent savoir
L’intelligence artificielle (IA) a rapidement évolué, passant de programmes pilotes à des flux de travail cliniques et administratifs essentiels dans les hôpitaux américains, redéfinissant ainsi la manière dont les soins sont fournis, documentés et gérés. Le rythme de son adoption dépasse celui de la supervision, et les régulateurs fédéraux, les législateurs d’État et les agences d’application de la loi réagissent simultanément.
Le paysage réglementaire : Ce que les dirigeants du système de santé doivent savoir
Les conseils des systèmes de santé doivent être conscients de l’activité significative et accélérée au sein des agences fédérales, des législatures d’État et des organismes d’application de la loi, tous agissant parallèlement pour élever la barre de la gouvernance de l’IA dans le secteur de la santé.
Au niveau fédéral, la Maison Blanche a ordonné aux agences d’accélérer l’adoption de l’IA tout en construisant des garde-fous de gouvernance. Le Department of Health and Human Services (HHS) aligne ses divisions opérationnelles sur des normes communes tout en créant des canaux pour que les fournisseurs participent à l’élaboration de leur mise en œuvre. Les Centers for Medicare & Medicaid Services (CMS) ont déjà intégré l’IA dans l’autorisation préalable, l’intégrité des programmes, les modèles de paiement et l’analyse.
Les États avancent également avec urgence pour promouvoir des lois sur l’IA, y compris des lois qui restreignent ou conditionnent la prise de décision automatisée dans la gestion de l’utilisation, ce qui nécessite une analyse minutieuse de la préemption et une mise en œuvre coordonnée.
Devoirs fiduciaires à l’ère de l’IA
L’IA ne crée pas de nouveaux devoirs fiduciaires pour les membres des conseils des systèmes de santé. Cependant, elle augmente les enjeux concernant la manière dont ces devoirs existants sont remplis.
Devoir de diligence : Rester informé, poser des questions difficiles
Les membres du conseil doivent agir avec le soin et la diligence qu’une personne raisonnablement prudente utiliserait en prenant des décisions significatives. Dans le contexte de l’IA, cela signifie que les conseils ne peuvent pas traiter l’IA comme une simple préoccupation managériale ou technologique. Ils doivent comprendre les risques matériels impliqués lorsque des outils d’IA affectent les soins aux patients, la facturation ou les opérations.
Devoir de loyauté : Surveiller les conflits
Le processus d’acquisition d’IA devient un investissement organisationnel significatif. Les administrateurs ayant des liens financiers avec des fournisseurs d’IA doivent gérer les conflits d’intérêts.
Devoir d’obéissance : Aligner l’IA avec votre mission
Pour les systèmes de santé à but non lucratif, le devoir d’obéissance exige de s’assurer que l’organisation reste fidèle à sa mission caritative. Les déploiements d’IA qui introduisent des impacts disparates sur des populations vulnérables pourraient compromettre les engagements de mission.
Questions que chaque conseil de système de santé devrait poser aujourd’hui
Responsabilité : Qui est responsable des décisions en matière d’IA ?
Le rythme de l’adoption de l’IA dépasse le développement de cadres de gouvernance, créant un défi de supervision évolutif. Les conseils doivent s’assurer que la direction a attribué une responsabilité claire pour l’ensemble du cycle de vie de l’IA.
Transparence : Quels outils d’IA sont utilisés et où ?
Les fonctions d’IA sont intégrées dans les dossiers de santé électroniques, les systèmes de facturation et les applications des fournisseurs. Les conseils doivent exiger que la direction maintienne un inventaire à jour des outils d’IA.
Contrôle : Des garde-fous sont-ils en place avant le déploiement de nouveaux outils d’IA ?
Introduire un nouvel outil d’IA dans un environnement clinique ou opérationnel comporte des implications légales, de sécurité et de conformité qui nécessitent un examen structuré avant déploiement.
Surveillance : Recevons-nous les bonnes informations au bon moment ?
La surveillance par le conseil de l’IA nécessite un système de suivi documenté qui met en évidence les risques significatifs avant qu’ils ne deviennent des problèmes sérieux.
Conclusion
La prochaine ère de l’IA dans le secteur de la santé récompensera les organisations qui associent innovation à une gouvernance disciplinée. Les conseils des systèmes de santé qui insistent sur des rapports clairs, des contrôles éprouvés et une amélioration continue seront mieux positionnés pour tirer parti des avantages de l’IA tout en protégeant la sécurité des patients et la conformité aux droits civils.