AI dans le secteur de la santé : un défi à relever
Le secteur de la santé a pénétré un nouveau monde audacieux avec l’utilisation de l’IA dans l’imagerie médicale, les dossiers médicaux électroniques et le soutien pour les vérifications initiales et la santé mentale.
Bien que les algorithmes détectant des motifs dans les radiographies et les dossiers de santé aient contribué à faire gagner du temps aux cliniciens, les logiciels d’IA ont également entraîné de graves erreurs dans les soins aux patients. Par exemple, un biais racial a conduit à une dépriorisation des soins pour les patients noirs, tandis que des patients âgés ont été refusés de couverture d’assurance pour des procédures qui auraient autrement été approuvées.
Un manque de réglementation
Selon Annika Schoene, professeure adjointe de santé publique à l’Université Northeastern, l’approche actuelle du secteur, qui consiste à établir des règles à la volée plutôt que des directives et des réglementations complètes, commence à montrer des signes de faiblesse. « Nous utilisons très peu de réglementation en matière d’IA », affirme-t-elle. « Si nous ne nous en occupons pas, bonne chance. »
Avoir un guide universel pour l’intégration de l’IA dans les hôpitaux serait bénéfique non seulement pour les travailleurs de l’IT, mais aussi pour les cliniciens, surtout à une époque où la littératie en IA reste insuffisante.
Création d’un guide éthique
Schoene, qui se concentre sur la sûreté de l’IA, a obtenu un financement pour élaborer un guide universel sur l’utilisation éthique de l’IA dans le secteur de la santé. Ce projet, qui vient de commencer, réunit des scientifiques informatiques, des chercheurs en santé publique, des éthiciens et des professionnels de la santé pour répondre à une question clé : comment enseigner aux experts techniques l’éthique et aux médecins, déjà sensibilisés à l’éthique, la technologie ?
Selon Cansu Canca, directrice de la pratique de l’IA responsable à l’Institut pour l’IA expérientielle de Northeastern, « nous voulons fournir un cadre où ces valeurs peuvent être traduites en décisions de conception et de développement ainsi qu’en exigences de suivi ».
Risques potentiels et planification post-approbation
Sans directives éthiques claires, les plus de 1 200 dispositifs médicaux équipés d’IA actuellement approuvés par la FDA présentent des risques potentiels pour la sécurité et la santé. Schoene précise que seulement 8 % d’entre eux ont un plan en place pour suivre l’utilisation de leur produit après l’approbation de la FDA.
Ateliers et sensibilisation
La première étape pour élaborer le guide consiste à travailler avec de grands systèmes de santé afin de comprendre ce que les professionnels de santé doivent réellement apprendre sur l’IA. Schoene souligne que les utilisations les plus répandues de l’IA, comme l’écoute générative des interactions dans un cabinet médical pour transcrire ces conversations, visent à alléger la charge de travail des professionnels déjà débordés.
Le but est d’inciter les travailleurs de la santé à poser des questions sur l’IA dès le départ, qu’ils mettent en œuvre des outils d’IA ou les utilisent. « C’est pourquoi nous sommes si intentionnels sur le fait d’organiser des ateliers avec des personnes qui ne connaissent pas nécessairement les détails techniques », explique-t-elle.
Un guide évolutif
Schoene envisage ce guide comme plus qu’une simple introduction à l’éthique de l’IA. Elle le voit comme un outil essentiel tout au long du processus pour les systèmes de santé explorant une technologie peu réglementée mais avec des limites claires. Par exemple, si un hôpital souhaite utiliser un nouvel outil d’analyse d’image intégré à l’IA pour la détection du cancer du sein, les administrateurs pourraient consulter le guide des chercheurs lors de l’évaluation de l’achat du logiciel.
En conclusion, la création d’un guide éthique sur l’IA dans le secteur de la santé est un défi complexe et en constante évolution. « Ce plan directeur, espérons-le, équipera d’une certaine manière un professionnel technique du système de santé pour savoir comment interagir avec un clinicien concernant la technologie », conclut Schoene.