4 incontournables pour les responsables de la santé déployant des scribes AI ambiants à grande échelle
Les médecins apprécient leurs scribes numériques. Une étude récente a montré qu’un tiers d’entre eux utilise déjà cette technologie émergente pour capturer des contenus clés lors des rencontres avec les patients.
Le rythme rapide d’adoption peut être un bon problème à avoir, mais reste un problème. Pour les hôpitaux et les systèmes de santé, le défi réside dans le fait que la technologie dépasse la validation, la transparence et la supervision réglementaire au sein de l’entreprise.
La promesse des scribes AI ambiants
Une étude publiée le 23 mars dans NPJ Digital Medicine examine cette situation et offre des perspectives basées sur des preuves pour les leaders de la santé cherchant à déployer des scribes AI ambiants dans des contextes de soins divers et dispersés.
« Les scribes AI ambiants ont le potentiel de transformer la documentation clinique et de soulager le fardeau cognitif et administratif en tant qu’outil d’assistance pour les cliniciens », écrivent les auteurs. « Pourtant, leur succès dans différents environnements de soins dépend non seulement de la sophistication technique, mais également d’une conception éthique, d’une évaluation inclusive et d’une clarté de gouvernance. »
1. Conception éthique
De nombreuses préoccupations éthiques et énigmes réglementaires ont émergé avec la prolifération des scribes AI ambiants dans les environnements cliniques. Les auteurs soulignent des problèmes associés aux AI de langage large, tels que le biais de modèle, le biais d’automatisation, les hallucinations et le potentiel de désinformation.
Au sein des flux de travail cliniques, les dilemmes éthiques vont au-delà de ces problèmes, touchant à la transparence, à la vie privée, à l’équité et à la responsabilité.
2. Développement inclusif et atténuation des biais
Les systèmes basés sur des LLM ont montré qu’ils reproduisent, voire amplifient, les biais présents dans les ensembles de données d’entraînement. Les groupes sous-représentés peuvent être exclus ou mal compris si les scribes AI ambiants ne sont pas entraînés sur des schémas linguistiques, des accents et des diales diversifiés.
Les auteurs appellent à une évaluation prudente par les adopteurs eux-mêmes, en soulignant que les analyses futures devraient inclure une composante qualitative pour recueillir les expériences des médecins et des patients.
3. Validation contextuelle
Bien que les environnements de soins de haute acuité aient de nombreuses similitudes, ils sont souvent très diversifiés entre les organisations. Ces différences peuvent impacter l’efficacité et le profil de sécurité des scribes AI ambiants. Une planification d’implémentation, un engagement des utilisateurs et un suivi post-déploiement sont cruciaux pour le succès.
Les auteurs recommandent également de tester les modèles propriétaires dans différents milieux pratiques pour garantir une équité relative à travers différentes démographies de patients.
4. Gouvernance claire et robuste
La surveillance en pratique devrait inclure la performance, l’équité et les instances d’acceptation non sécurisée. Les auteurs définissent ces termes comme l’utilisation non corrigée d’un élément généré par un scribe dans des contextes pré-identifiés de fiabilité réduite.
Les scribes AI ambiants représentent une avancée prometteuse dans le domaine de la santé, mais leur déploiement à grande échelle nécessite une attention particulière à l’éthique, à l’inclusivité, à la validation contextuelle et à la gouvernance.