Les applications et bots alimentés par l’IA envahissent la médecine : des questions des médecins
L’intelligence artificielle (IA) révolutionne des secteurs tels que le logiciel, le droit, le divertissement et l’éducation. Dans le domaine médical, elle pose des défis particuliers alors que les patients se tournent vers l’IA pour des conseils.
Un cas préoccupant
Le Dr Cem Aksoy, médecin résident à Ankara, en Turquie, a récemment été confronté à une situation alarmante. Un patient de 18 ans, diagnostiqué avec une tumeur cancéreuse à la jambe gauche, a consulté ChatGPT d’OpenAI. Le bot a affirmé qu’il ne survivrait peut-être que cinq ans, une affirmation erronée, car un chirurgien plasticien a réussi à retirer la tumeur.
Malheureusement, quelques semaines plus tard, le patient a rappelé Aksoy, en larmes, craignant que ses toussements récents soient un signe de métastases. Finalement, il s’est avéré que ses poumons étaient sains et que la toux était due à son nouveau tabagisme.
Les limites de l’IA
Aksoy souligne que lorsqu’une personne est en détresse sans guidance, un chatbot IA peut « l’entraîner dans une forêt de connaissances sans contexte cohérent ». Un porte-parole d’OpenAI a déclaré que leurs modèles les plus récents ont considérablement amélioré la gestion des questions de santé, mais que ChatGPT n’est pas conçu pour remplacer les conseils d’un professionnel de la santé.
Les applications médicales alimentées par l’IA
Un nombre croissant d’applications mobiles prétendent utiliser l’IA pour aider les patients avec leurs plaintes médicales, bien qu’elles ne soient pas censées offrir de diagnostics. Selon les directives de la Food and Drug Administration (FDA) des États-Unis, ces applications n’ont pas besoin d’approbation si elles sont destinées à l’éducation des patients.
Par exemple, l’application Eureka Health: AI Doctor se présentait comme un « compagnon de santé personnel tout-en-un ». Cependant, après une enquête, Apple a retiré l’application de son App Store pour non-conformité.
Des conseils potentiellement dangereux
Une autre application, AI Dermatologist: Skin Scanner, prétend avoir une précision comparable à celle d’un dermatologue professionnel. Les utilisateurs peuvent télécharger des photos de lésions cutanées, mais plusieurs ont rapporté que les résultats étaient souvent inexacts.
Par exemple, un utilisateur a testé l’application avec des photos d’une croissance suspecte sur son bras, qui a été jugée à 75%-95% cancéreuse. Après consultation avec un dermatologue, il a été informé que la croissance n’était pas problématique.
Conclusion
Les applications médicales alimentées par l’IA soulèvent de vives inquiétudes, en particulier dans le domaine de la dermatologie. Le Dr Rachel Draelos, médecin et scientifique en informatique, souligne que l’identification correcte des conditions cutanées est complexe et que toutes les applications ne disposent pas de bases de données adéquates.
Avec l’engouement croissant pour l’IA dans le secteur médical, il est crucial que les utilisateurs restent prudents et consultent des professionnels de la santé avant de se fier à ces technologies.