Bien que l’intelligence artificielle (IA) puisse être un outil puissant que les médecins peuvent utiliser pour aider à diagnostiquer leurs patients et qu’elle présente un grand potentiel pour améliorer la précision, l’efficacité et la sécurité des patients, elle présente des inconvénients. Cela peut distraire les médecins, leur donner trop confiance dans les réponses qu’il apporte et même les amener à perdre confiance dans leur propre jugement diagnostique.
Pour garantir que l’IA soit correctement intégrée dans la pratique des soins de santé, une équipe de recherche a fourni un cadre comprenant cinq questions directrices visant à soutenir les médecins dans leurs soins aux patients sans compromettre leur expertise par une dépendance excessive à l’IA. Le cadre a été récemment publié dans la revue à comité de lecture Journal de l'Association américaine d'informatique médicale.
Cet article déplace la discussion de l’efficacité de l’algorithme d’IA vers la manière dont les médecins interagissent réellement avec l’IA pendant le diagnostic. Cet article fournit un cadre qui pousse le domaine au-delà de « L'IA peut-elle détecter les maladies ? » à « Comment l'IA devrait-elle soutenir les médecins sans compromettre leur expertise ? » Ce recadrage est une étape essentielle vers une adoption plus sûre et plus efficace de l’IA dans la pratique clinique. »
Dr Joann G. Elmore, auteur principal, professeur de médecine à la division de médecine interne générale et de recherche sur les services de santé et directeur du programme national de chercheurs cliniciens à la David Geffen School of Medicine de l'UCLA
Bien que des erreurs liées à l’IA se produisent, personne ne sait vraiment pourquoi ces outils ne parviennent pas à améliorer la prise de décision diagnostique lorsqu’ils sont mis en œuvre dans la pratique clinique.
Pour découvrir pourquoi, les chercheurs proposent cinq questions pour guider la recherche et le développement afin de prévenir les erreurs de diagnostic liées à l’IA. Les questions à se poser sont les suivantes : quel type et quel format d’informations l’IA doit-elle présenter ? Doit-il fournir ces informations immédiatement, après un examen initial, ou être activé et désactivé par le médecin ? Comment le système d’IA montre-t-il comment il prend ses décisions ? Comment cela affecte-t-il les préjugés et la complaisance ? Et enfin, quels sont les risques d’en dépendre à long terme ?
Ces questions sont importantes à poser car :
- Le format affecte l'attention des médecins, l'exactitude du diagnostic et d'éventuels biais d'interprétation
- Des informations immédiates peuvent conduire à une interprétation biaisée, tandis que des signaux retardés peuvent aider à maintenir les compétences diagnostiques en permettant aux médecins de s'engager plus pleinement dans un diagnostic.
- La façon dont le système d'IA parvient à une décision peut mettre en évidence les caractéristiques qui ont été exclues ou exclues, fournir des explications de type « et si » et s'aligner plus efficacement sur le raisonnement clinique des médecins.
- Lorsque les médecins s’appuient trop sur l’IA, ils peuvent moins s’appuyer sur leur propre esprit critique, laissant ainsi passer un diagnostic précis.
- Le recours à long terme à l'IA peut éroder les capacités de diagnostic acquises par un médecin
Les prochaines étapes vers l'amélioration de l'IA à des fins de diagnostic consistent à évaluer différentes conceptions en milieu clinique, à étudier comment l'IA affecte la confiance et la prise de décision, à observer le développement des compétences des médecins lorsque l'IA est utilisée dans la formation et la pratique clinique, et à développer des systèmes qui s'auto-ajustent dans la manière dont ils aident les médecins.
« L'IA a un énorme potentiel pour améliorer la précision du diagnostic, l'efficacité et la sécurité des patients, mais une mauvaise intégration pourrait aggraver les soins de santé au lieu de les améliorer », a déclaré Elmore. « En mettant en évidence les facteurs humains tels que le timing, la confiance, la dépendance excessive et l'érosion des compétences, notre travail souligne que l'IA doit être conçue pour fonctionner avec les médecins, et non pour les remplacer. Cet équilibre est crucial si nous voulons que l'IA améliore les soins sans introduire de nouveaux risques. »
Les co-auteurs sont Tad Brunyé de l'Université Tufts et Stephen Mitroff de l'Université George Washington.
La recherche a été financée par le National Cancer Institute des National Institutes of Health (R01 CA288824, R01 CA225585, R01 CA172343 et R01 CA140560).
