Réglementation de l’IA en Pennsylvanie
Le secteur de la santé est unanime : l’intelligence artificielle est déjà un outil intégré dans le quotidien de l’industrie. Cependant, le moment et la manière de la réguler posent des défis qui suscitent une variété de perspectives et d’opinions parmi les experts et les législateurs.
Intervention du député Arvind Venkat
Le député Arvind Venkat, D-Pittsburgh, médecin urgentiste, a pris part à cette conversation cruciale. Son projet de loi, la House Bill 1925, a été au cœur d’une audience de plus de trois heures du comité des communications et de la technologie de la Chambre. Venkat souligne que l’IA représente une technologie et une situation très différentes des autres développements dans le domaine de la santé, en raison de sa nature autonome, de sa similitude avec l’intelligence humaine et de son fonctionnement en tant que boîte noire.
Il affirme que l’IA, de plus en plus chargée de réaliser des diagnostics, doit être réglementée et tenue responsable, sans que cela soit un débat « pour ou contre l’IA ».
Consensus et préoccupations
Au cours de plusieurs panels, incluant des représentants de groupes d’intérêt public, de l’industrie de l’assurance, de techniciens en information, d’administrateurs d’hôpitaux et de cliniciens, un consensus est apparu en faveur de la législation. Cependant, des réserves ont été émises concernant ce projet particulier, indiquant que même si la Pennsylvanie est en avance, il nécessitera des révisions et des négociations significatives avant d’être acceptable pour toutes les parties.
Importance de l’humain dans le processus
Au cœur de la conversation se trouve la nécessité de « garder un humain dans la boucle ». L’IA est utilisée dans un large éventail d’applications médicales, presque toutes nécessitant une supervision humaine. Des applications qui écoutent les consultations et enregistrent des notes aux systèmes aidant au diagnostic par l’analyse des radiographies, un professionnel doit valider les décisions finales.
Les représentants du bureau du procureur général ont signalé des plaintes de patients préoccupés par le fait que l’IA avait rejeté leurs demandes sans considération humaine. De telles situations sont difficiles à enquêter, et beaucoup restent sceptiques quant à la volonté de l’industrie de respecter les réglementations existantes.
Impact sur le personnel médical
Le Dr David Vega, vice-président senior et directeur médical chez Wellspan Health, a souligné que l’utilisation de l’IA libère des milliers d’heures au personnel pour s’occuper des patients. L’analyse de plus de 200 000 scans par l’IA a permis d’économiser 900 heures de délais, accélérant ainsi les soins vitaux pour plus de 10 000 patients.
La combinaison de l’expertise humaine avec la technologie de l’IA améliore les soins et les résultats des patients de manière inimaginable il y a quelques années. Cependant, certains craignent que les administrateurs n’utilisent ces outils pour se concentrer sur le profit et réduire les coûts.
Inquiétudes des travailleurs de la santé
Maureen May, présidente de l’Association des infirmières et des professionnels alliés de Pennsylvanie, a mené une enquête sur le sujet. Elle a rapporté que 89% de ses membres n’ont pas confiance dans la capacité de leurs employeurs à mettre en œuvre l’IA de manière responsable, ce qui a conduit à un soutien en faveur de la réglementation gouvernementale.
Défis pour les législateurs
Les législateurs se trouvent face à un dilemme entre réglementation et sur-réglementation. Certains craignent que des règles sur l’IA maintenant empêchent l’innovation future, tandis que d’autres redoutent qu’un manque de réglementation n’entraîne des problèmes similaires à ceux causés par le pouvoir des réseaux sociaux resté largement incontrôlé.
Un expert en politique d’IA a qualifié cela de « regret de l’acheteur », affirmant que les préoccupations concernant l’IA transcendent les groupes démographiques et les partis politiques. La question de la réglementation de l’IA reste donc d’actualité, d’autant plus que le gouvernement fédéral semble prendre du retard face à ces enjeux.
« Il y a beaucoup de confusion dans l’IA et beaucoup de méfiance », a déclaré le président du comité, rappelant l’urgence d’une action réglementaire.