L’accélération de l’IA dans le secteur de la santé : qui doit la réguler ?
Alors que l’IA s’immisce rapidement dans le secteur de la santé, elle apporte des avantages potentiels ainsi que des défis, tels que le biais qui entraîne des soins inégaux et le burnout des médecins et autres professionnels de santé. La question de la régulation de l’IA aux États-Unis reste ouverte.
Recommandations pour l’IA médicale
En septembre, la Commission conjointe d’accréditation des hôpitaux et la Coalition pour l’IA en santé ont publié des recommandations pour la mise en œuvre de l’IA dans les soins médicaux, laissant la responsabilité de la conformité principalement aux établissements individuels.
I. Glenn Cohen, directeur de la faculté au Petrie-Flom Center de la Harvard Law School et ses collègues ont suggéré dans le Journal of the American Medical Association que ces directives étaient un bon début, mais qu’il était nécessaire d’apporter des modifications pour alléger les charges réglementaires et financières, notamment pour les petits systèmes hospitaliers.
La nécessité d’une régulation claire
Il est évident que lorsque l’IA médicale gère des éléments à risque moyen ou élevé, une régulation est nécessaire : auto-régulation interne ou régulation gouvernementale externe. Jusqu’à présent, la plupart des régulations ont été internes, entraînant des différences dans la manière dont chaque système hospitalier valide, examine et surveille l’IA en santé.
Le coût de cette évaluation et surveillance, lorsqu’elle est réalisée individuellement, peut être significatif, ce qui signifie que certains hôpitaux peuvent la prendre en charge tandis que d’autres ne le peuvent pas. En revanche, une régulation descendante est plus lente, ce qui pourrait freiner certains progrès dans ce domaine.
Produits d’IA en milieu hospitalier
Il existe une gamme complexe de produits d’IA intégrés dans les hôpitaux. Certains peuvent aider dans des fonctions telles que l’achat interne et l’examen, mais beaucoup d’autres sont cliniques ou cliniquement associés. Par exemple, certains produits d’IA médicale interagissent directement avec les patients, comme les chatbots utilisés pour la santé mentale, où la nécessité de régulation est beaucoup plus claire.
Le dilemme de la vitesse dans la régulation
Cet écosystème d’innovation regorge de l’énergie des startups, mais il évolue très rapidement sans beaucoup d’examen interne. Dans ce contexte, le risque est que l’éthique soit rapidement négligée. La majorité des IA médicales ne sont jamais examinées par un régulateur fédéral, ce qui souligne la nécessité d’établir des normes pour l’IA en santé.
Les recommandations de la Commission conjointe
Les directives exigent que, lorsque cela est approprié, les patients soient informés lorsque l’IA impacte directement leurs soins et que leur consentement à l’utilisation d’un agent IA soit obtenu. Par ailleurs, ces recommandations stipulent un suivi continu de la qualité et une validation des performances de l’IA, ce qui présente des défis considérables en termes de coût et de logistique pour de nombreux systèmes hospitaliers.
Inégalités dans l’accès à l’IA médicale
Les petites communautés hospitalières, qui représentent la majorité des hôpitaux aux États-Unis, pourraient ne pas être en mesure de supporter les coûts de mise en œuvre des algorithmes d’IA. Cela pourrait engendrer une distribution inégale des bénéfices de l’IA, laissant certains établissements sans accès aux technologies susceptibles d’améliorer significativement les soins.
Le rôle potentiel des laboratoires d’assurance
L’administration Biden a proposé l’idée de laboratoires d’assurance — des organisations du secteur privé qui, en partenariat avec le gouvernement, pourraient évaluer les algorithmes selon des normes convenues. Cependant, la mise en œuvre de cette approche reste sujette à débats au sein de la classe politique.
Conclusion optimiste
Bien que le paysage soit complexe et en évolution rapide, il existe un potentiel prometteur pour l’IA médicale d’améliorer les soins, à condition que les incitations soient correctement alignées et que les préoccupations liées à la distribution des bénéfices soient intégrées dans toute future législation.