Utah montre comment les États devraient réglementer l’IA dans le secteur de la santé
Les hôpitaux, cliniques et agences de santé publique à travers les États-Unis déploient des outils d’IA pour rédiger des notes cliniques, résumer les antécédents des patients, signaler d’éventuelles interactions médicamenteuses et soutenir les décisions de triage. Cependant, les décideurs politiques des États peuvent être tentés de restreindre l’utilisation de l’IA dans le secteur de la santé par souci de safety pour les patients. Pourtant, éviter l’IA n’est pas la même chose que de la rendre sûre.
Les décideurs qui souhaitent protéger les patients tout en permettant aux cliniciens d’utiliser des outils qui améliorent les soins devraient se tourner vers Utah pour comprendre comment les sables réglementaires peuvent maximiser l’accès des patients à des outils bénéfiques tout en minimisant les risques cliniques.
La loi sur la politique de l’IA
En 2024, la législature de l’État a adopté la Loi sur la politique de l’intelligence artificielle, qui a créé le Bureau de la politique de l’intelligence artificielle (OAIP) et l’a autorisé à gérer un sable réglementaire où les entreprises peuvent demander un allègement temporaire de certaines règles de l’État pour tester des systèmes d’IA sous la supervision gouvernementale. Au lieu de restreindre l’IA dès le départ, ce sable offre à l’État un moyen d’évaluer comment ces outils fonctionnent en pratique et de construire une réglementation basée sur des preuves plutôt que sur des hypothèses.
Le cas Doctronic
Un projet pilote dans le sable montre comment cette approche fonctionne en pratique pour un domaine d’application important : les renouvellements d’ordonnances de routine. Doctronic, une plateforme de technologie de santé, utilise un système d’IA sous un accord d’atténuation réglementaire approuvé par l’État pour permettre aux patients atteints de maladies chroniques de renouveler certaines ordonnances dans des pharmacies participantes. Au lieu d’attendre qu’un bureau de médecin examine et approuve manuellement une demande de renouvellement — un retard qui peut amener les patients à manquer des doses — les patients scannent un code QR au comptoir de la pharmacie pour commencer un dépistage guidé par l’IA.
Le système vérifie l’identité du patient et consulte son historique médicamenteux à l’aide d’un réseau de données d’ordonnance national utilisé par les pharmacies et les médecins. Si la demande respecte les critères de sécurité de l’État pour l’un des 190 médicaments à faible risque éligibles, le système autorise le renouvellement pour le pharmacien en quelques minutes.
Avantages de l’approche du sable réglementaire
Cette approche du sable présente plusieurs avantages. Tout d’abord, elle maximise la chance que les outils bénéfiques atteignent effectivement les patients. Des restrictions générales ne bloquent pas seulement les mauvaises IA, mais aussi les bonnes. Si un État interdisait aux cliniciens d’utiliser l’IA pour soutenir les décisions de traitement, cela ne ferait pas de distinction entre un chatbot mal validé et un outil de soutien à la décision clinique rigoureusement testé.
Deuxièmement, le sable de l’Utah aide l’État à réglementer de manière plus intelligente au fil du temps, car il permet aux régulateurs d’apprendre avant de créer de nouvelles règles. L’expérience facilite l’écriture de réglementations qui ciblent les points de défaillance réels plutôt que ceux imaginés.
Responsabilité et assurance
Plutôt que d’éviter les questions de responsabilité en interdisant la technologie, le sable les aborde directement en définissant la responsabilité à l’avance. Cela permet aux cliniciens de participer sans risquer leurs licences tout en garantissant que les patients restent protégés en cas de problème. En dehors d’un pilote supervisé, un pharmacien qui s’appuie sur une autorisation de renouvellement générée par l’IA pourrait risquer de violer des règles de portée de pratique.
Amélioration des processus de santé
Enfin, faire fonctionner un sable teste lui-même le cadre réglementaire. Le projet pilote Doctronic ne révèle pas seulement l’efficacité de l’IA ; il met en lumière où les processus de renouvellement d’ordonnance existants sont lents, fragmentés ou inutiles pour les fournisseurs et les patients. Tester un flux de travail alternatif sous supervision permet à l’État de voir quelles étapes protègent réellement la sécurité des patients et lesquelles ajoutent simplement des retards.
Le sable de l’Utah montre que la gouvernance responsable de l’IA ne consiste pas à interdire de nouveaux outils, mais à créer un processus pour les évaluer. Les États qui construisent des systèmes pour une expérimentation supervisée seront mieux placés pour protéger les patients tout en améliorant les soins.