La Licence des IA comme Professionnels de la Santé
La technologie de l’IA générative joue déjà un rôle crucial en aidant les cliniciens à interpréter les résultats de laboratoire, à doser des antibiotiques et à répondre aux questions des patients. Cependant, les processus d’approbation actuels pour l’utilisation de l’IA dans le domaine de la santé reposent principalement sur le cadre de la Food and Drug Administration (FDA) pour les logiciels en tant que dispositifs médicaux (SaMD), qui est mieux adapté aux outils conçus par un seul fabricant pour effectuer des tâches spécifiques, comme la classification des lésions pulmonaires à haut risque.
Les produits modernes d’IA générative, en revanche, possèdent un éventail de compétences plus large. Ils peuvent être développés par une entreprise, affinés par une autre, et étendus par des plugins tiers, sans qu’il y ait de responsabilité réglementaire claire.
Proposition de Licences Analogues à celles des Cliniciens
Dans un récent article de perspective publié dans JAMA, un groupe de chercheurs propose une approche différente : la licence des IA de la même manière que celle des médecins, des infirmiers praticiens et des assistants médicaux, qui exercent de manière supervisée et collaborative.
Les auteurs soutiennent que les préoccupations concernant l’IA générative, telles que les hallucinations et la dérive de performance, rappellent les inquiétudes des années 1800 concernant les remèdes douteux et la formation variable des cliniciens. L’approche de la licence, qui combine les normes de pratique avec une surveillance continue et une éducation, pourrait être adaptée à la réglementation de l’IA.
Création d’un Conseil Fédéral de Licences Numériques
Les chercheurs proposent la création d’un nouveau conseil fédéral de licences numériques pour superviser ce cadre. Toutefois, les organismes fédéraux et étatiques existants pourraient jouer des rôles importants :
- La FDA pourrait conserver son rôle dans les évaluations pré-commercialisation, évitant ainsi aux développeurs d’avoir à soumettre des demandes à 50 autorités de licence des États.
- Les systèmes de santé désignés, dotés d’expertise en IA, pourraient fonctionner comme centres d’implémentation.
- La surveillance continue et la discipline pourraient incomber aux conseils médicaux d’État, avec un organisme fédéral pour harmoniser les normes.
Les auteurs affirment qu’un cadre de licence pourrait aider à garantir que l’innovation se développe avec responsabilité et non en dehors de celle-ci.
Tableau Comparatif : Licences des Cliniciens vs Licences des IA
Le tableau ci-dessous compare les aspects clés des licences pour les cliniciens humains et les IA génératives :
- Concept de Licence
Clinicien Humain : Diplôme accrédité et réussite d’examens nationaux. Période de formation clinique supervisée.
IA Générative : Validation technique des compétences prédéfinies (examens nationaux pour l’IA). Pilote supervisé dans des centres d’implémentation accrédités (résidence IA). - Champ d’application
Clinicien Humain : Délégation des services médicaux approuvés, populations concernées, degré d’autonomie. Accords de collaboration ou de supervision pour les PAs/NPs.
IA Générative : Délégation des fonctions approuvées (ex. interprétation d’images), populations concernées, degré d’autonomie. Orientation sur la supervision des cliniciens pour chaque fonction. - Accréditation institutionnelle
Clinicien Humain : Les systèmes de santé accréditent pour réaliser des procédures spécifiques et examiner les résultats, peuvent suspendre des privilèges pour des raisons de sécurité.
IA Générative : Les comités de gouvernance de l’IA des systèmes de santé évaluent l’implémentation spécifique, déterminent les privilèges locaux et surveillent les indicateurs de qualité locaux, pouvant révoquer un privilège ou désactiver un modèle si les seuils ne sont pas respectés. - Surveillance continue
Clinicien Humain : Exigences de formation continue et évaluations périodiques des connaissances (pour le maintien de la certification).
IA Générative : Répétition annuelle des benchmarks actualisés pour chaque compétence et rapport des mesures de performance clinique pour examen par le conseil. - Discipline / responsabilité
Clinicien Humain : Les conseils médicaux d’État enquêtent sur les plaintes et peuvent infliger des amendes, suspendre ou révoquer des licences, ou exiger une nouvelle formation. Actions rapportées à la Base de Données Nationale des Praticiens.
IA Générative : Les conseils numériques reçoivent et traitent les plaintes et peuvent placer le système IA en probation, exiger des correctifs ou des garde-fous supplémentaires, suspendre ou révoquer la licence. Maintien d’une base de données publique des modèles disciplinés et des plans d’action correctif.
En conclusion, la discussion autour de la nécessité d’un cadre de licence pour l’IA dans le domaine de la santé est cruciale. Une telle réglementation pourrait garantir une intégration responsable de l’IA dans les soins de santé, tout en permettant l’innovation.