Enquête sur la méconnaissance des réglementations par les développeurs d’IA médicale
Une étude menée par l’Université technologique de Nanyang (NTU) révèle que de nombreux développeurs d’intelligence artificielle (IA) dans le secteur de la santé ne connaissent pas les cadres réglementaires destinés à garantir la confiance et la sécurité de leurs outils.
Contexte de l’étude
Les chercheurs ont interrogé 122 développeurs d’IA médicale provenant de Singapour, de Chine, de Hong Kong et du Royaume-Uni. Il s’agit de l’une des premières enquêtes multi-régionales axées sur la connaissance des réglementations par ces professionnels.
Principaux résultats
• 57 % des participants étaient au moins informés d’un cadre réglementaire (par exemple, le AI Act de l’Union européenne ou les directives singapouriennes sur l’IA en santé).
• Les développeurs seniors et ceux travaillant hors du milieu académique connaissent davantage de cadres que leurs homologues juniors ou universitaires.
• Deux‑tiers des répondants travaillent pour des organisations qui n’ont adopté aucun cadre réglementaire.
• Les développeurs dont l’employeur a mis en place un cadre sont généralement plus familiers avec les règles que ceux dont l’entreprise n’en possède pas.
Responsabilité et perception
La majorité des développeurs estiment qu’ils doivent assumer la responsabilité de leurs créations, même s’ils ne maîtrisent pas toujours les exigences légales. Cette prise de responsabilité est perçue comme rassurante, mais les lacunes en matière de sensibilisation restent préoccupantes.
Recommandations proposées
1. Intégrer la formation réglementaire dans les cursus universitaires afin de sensibiliser les futurs développeurs dès le début de leur parcours.
2. Mettre en place un mentorat structuré au sein des entreprises, favorisant le transfert de connaissances entre développeurs seniors et juniors.
3. Encourager les régulateurs nationaux à jouer un rôle actif dans la conformité et à travailler à l’harmonisation des règles entre les juridictions.
Implications pour le futur de l’IA en santé
Une collaboration accrue entre développeurs, institutions académiques, entreprises et autorités de régulation est indispensable pour garantir la sécurité des patients, la protection des données et la fiabilité à long terme des systèmes d’IA médicale.