Huntsman Mental Health Institute : un cadre innovant pour une utilisation éthique de l’IA en santé mentale
Salt Lake City, UT — Le Huntsman Mental Health Institute a récemment annoncé la publication d’un cadre pionnier visant à garantir que les systèmes d’intelligence artificielle (IA) utilisés dans le domaine de la santé soient développés et déployés de manière éthique, transparente et équitable pour les patients. Ce cadre, intitulé Scalable Agile Framework for Execution in AI (SAFE AI), a été publié dans le Journal of Medical Internet Research, un journal académique de premier plan pour la recherche en santé numérique.
Un cadre pour l’innovation en santé
Développé en collaboration avec des partenaires en IA de la santé, le cadre offre des orientations pratiques pour les petites et moyennes entreprises qui construisent des technologies médicales basées sur l’IA. Il intègre des points de contrôle éthiques directement dans les flux de travail de développement standard, aidant ainsi les organisations à identifier et à atténuer de manière proactive les biais potentiels avant qu’ils n’affectent les soins aux patients.
“L’IA façonne de plus en plus la manière dont les cliniciens prennent des décisions en matière de santé mentale, allant de la triage de crise aux recommandations de traitement,” a déclaré un chercheur de l’institut. “Avec SAFE AI, nous fournissons une feuille de route qui garantit que ces systèmes sont non seulement efficaces, mais également équitables, transparents et continuellement surveillés.”
Pourquoi SAFE AI est-il crucial pour la santé mentale ?
Alors que les outils d’IA deviennent plus courants dans les soins psychiatriques et de santé comportementale, les inquiétudes concernant l’équité et le biais augmentent. Sans une supervision intentionnelle, les systèmes d’IA peuvent refléter ou amplifier sans le vouloir les disparités présentes dans les données d’entraînement, ce qui peut affecter la qualité des soins pour des populations déjà mal desservies.
Le cadre SAFE AI s’attaque directement à ce défi en établissant des processus rigoureux pour garantir l’équité entre les groupes de patients. Cela inclut un suivi continu pour détecter les "biais dérivés", des évaluations de performance par sous-groupe, et des stratégies de communication claires pour transmettre les limitations de l’IA aux cliniciens.
Impacts et avantages
“L’IA responsable soutient notre mission d’avancer la connaissance, l’espoir et la guérison en santé mentale pour tous,” a ajouté le chercheur. “Ce cadre donne aux organisations de santé les outils nécessaires pour garantir que l’IA renforce — et non mine — cette mission.”
Recherche alimentée par des partenariats collaboratifs
Le cadre a été développé par une équipe de recherche au sein de l’institut, soutenue en partie par la Huntsman Mental Health Foundation. L’institut a collaboré avec des partenaires clés, notamment MTN (entreprise d’IA), Data Science Alliance (organisme à but non lucratif de San Diego) et Nemsee LLC.
Un modèle de recherche translationnelle
Le projet SAFE AI illustre l’engagement de l’institut envers la recherche translationnelle, en intégrant la rigueur académique directement dans l’innovation en santé réelle. Ce travail s’aligne avec le nouveau Bâtiment de Recherche Translationnelle, actuellement en construction à l’Université de l’Utah, destiné à accélérer la collaboration entre chercheurs, cliniciens et partenaires industriels.
“Il s’agit de recherches ayant un impact immédiat et significatif,” a affirmé le chercheur. “Nous ne faisons pas que étudier comment l’IA est utilisée en santé mentale ; nous aidons à définir comment elle devrait être construite.”
Avancer l’IA responsable en santé comportementale
La publication positionne l’institut en tant que leader national dans la conduite du développement éthique des systèmes d’IA pour la santé, en particulier dans la santé comportementale, où les vulnérabilités des patients et les biais complexes nécessitent une supervision accrue.
“Lorsque l’IA aide à prendre des décisions en santé mentale, l’équité et la transparence ne sont pas optionnelles,” a ajouté le chercheur. “SAFE AI détecte les problèmes avant qu’ils ne causent des dommages et maintient l’équité des patients au centre.”
Cette étude a été partiellement soutenue par le National Institute on Aging, le US Army xTech AI Grand Challenge, la Huntsman Mental Health Foundation, Mountain Biometrics, Inc., Nemsee, LLC, et la Data Science Alliance. Les opinions et conclusions exprimées ici relèvent de la responsabilité des auteurs et ne doivent pas être interprétées comme représentant nécessairement les politiques officielles, qu’elles soient exprimées ou implicites, des National Institutes of Health, de l’US Army ou du gouvernement des États-Unis.