Appel croissant à la licence des modèles GenAI médicaux comme tout professionnel de la santé
Un nombre croissant de médecins universitaires, d’experts en politiques et de spécialistes de la santé publique s’accorde sur l’idée de licencier les modèles GenAI médicaux comme s’ils étaient des médecins ou des infirmiers.
En novembre, le médecin hospitalier de l’UPenn, Eric Bressman, MD, MSHP, avec des collègues de Harvard, Brown et de l’Université de Potsdam, a publié un article d’opinion dans JAMA Internal Medicine avançant cette notion.
« Au milieu de l’incertitude entourant l’environnement réglementaire de l’IA — alors que l’administration actuelle a signalé une approche plus légère — il pourrait y avoir une opportunité de créer une approche plus agile et tournée vers l’avenir pour l’IA clinique », ont écrit les chercheurs.
Un cadre de licence pour l’innovation responsable
Ils ont ajouté : « Un cadre de licence pourrait aider à garantir que l’innovation progresse avec responsabilité et non en avance sur elle. »
Récemment, un article de blog par Julia Hinkley, JD, directrice de la stratégie politique à l’Institut Leonard Davis d’économie de la santé de l’UPenn, a renforcé cet élan.
« Idéalement, un nouveau conseil fédéral de licence numérique serait chargé de superviser le cadre », écrit Hinkley dans un bref document informel publié par l’LDI le 29 janvier. « Cependant, des organismes fédéraux et d’État existants pourraient jouer des rôles importants : la FDA pourrait conserver son rôle dans les évaluations préalables à la commercialisation, empêchant les développeurs de devoir soumettre à 50 autorités de licence d’État. »
Centres d’implémentation et surveillance continue
Hinkley soutient également l’idée précédemment évoquée de laisser les systèmes de santé disposant d’expertise en IA fonctionner comme des centres d’implémentation.
Parallèlement, les conseils médicaux d’État fourniraient une surveillance continue, collaborant avec ou se référant à un organe fédéral de coordination pour harmoniser les normes.
Il est clair qu’une innovation réglementaire est nécessaire, souligne Hinkley.
Un précédent historique
Et il ne s’agit pas d’un cas sans précédent.
« Les préoccupations concernant l’IA générative, telles que les hallucinations et la dérive de performance, reflètent les inquiétudes de la fin du 19e siècle concernant les remèdes douteux et la formation variable des cliniciens », écrit-elle. « L’approche de la licence, combinant normes de pratique avec une surveillance et une éducation continues, peut être adaptée à la réglementation de l’IA. »
Les deux articles, tant le document évalué par des pairs que le blog succinct, présentent un tableau convivial montrant les parallèles entre la licence des cliniciens et une structure de licence IA potentielle.
Il est impératif d’écouter les avis de Bressman et de ses co-auteurs, ainsi que ceux de Hinkley, pour mieux comprendre cet enjeu croissant dans le domaine de la santé.