Une dépendance excessive à l'égard de l'IA générative risque d'éroder les capacités de pensée critique des nouveaux et futurs médecins, tout en renforçant potentiellement les biais et les inégalités dans les données existantes, prévient un éditorial publié dans la revue en ligne. Médecine basée sur des preuves BMJ.
Les outils GenAI sont déjà largement utilisés au milieu de peu de politiques institutionnelles et d'orientations réglementaires, soulignent les auteurs, qui exhortent les enseignants en médecine à faire preuve de vigilance et à ajuster les programmes et la formation pour atténuer les pièges de la technologie.
L'utilisation de l'IA est désormais utilisée dans un large éventail de tâches différentes, mais son potentiel croissant s'accompagne d'un risque croissant de dépendance excessive à son égard et d'une multitude de problèmes potentiels pour les étudiants en médecine et les médecins stagiaires, notent les auteurs de l'Université du Missouri, à Colombie, aux États-Unis.
Ceux-ci incluent :
● Biais d'automatisation : confiance non critique dans les informations automatisées après une utilisation prolongée
● le déchargement cognitif et l'externalisation de la récupération, de l'évaluation et de la synthèse d'informations modifiant le raisonnement vers l'IA, compromettant ainsi la pensée critique et la rétention de la mémoire
● Les compétences qui déqualifient, ce qui est particulièrement important pour les étudiants en médecine et les médecins nouvellement qualifiés qui apprennent la compétence en premier lieu et qui n'ont pas l'expérience nécessaire pour sonder les conseils d'AI.
● renforcer les biais et les inégalités en matière de données
● hallucinations : informations fluides et plausibles, mais inexactes
● violations de la vie privée, de la sécurité et de la gouvernance des données – un problème particulier compte tenu de la nature sensible des données de santé
Les auteurs suggèrent divers changements pour contribuer à minimiser ces risques, notamment la notation du processus, plutôt que du seul produit final dans les évaluations pédagogiques, en partant du principe que les apprenants auront utilisé l’IA.
Les évaluations des compétences critiques qui excluent l’IA doivent être conçues, à l’aide de postes supervisés ou d’examens en personne – particulièrement importants pour la communication au chevet du patient, l’examen physique, le travail d’équipe et le jugement professionnel – suggèrent les auteurs.
Et il peut être prudent d’évaluer l’IA elle-même en tant que compétence, car « la maîtrise des données et l’enseignement de la conception, du développement et de l’évaluation de l’IA sont plus importants que jamais, et ces connaissances ne sont plus un luxe pour les apprenants et les stagiaires en médecine », ajoutent-ils.
Les stagiaires en médecine doivent comprendre les principes et les concepts qui sous-tendent les forces et les faiblesses de l'IA, ainsi que où et comment les outils d'IA peuvent être utilement intégrés aux flux de travail cliniques et aux parcours de soins. Et les stagiaires doivent également savoir comment évaluer les performances attendues et les biais potentiels au fil du temps, soulignent-ils.
« Un enseignement amélioré de la pensée critique est particulièrement nécessaire, ce qui peut être réalisé en créant des cas où les résultats de l'IA sont un mélange de réponses correctes et intentionnellement erronées…. Les apprenants accepteraient, modifieraient ou rejetteraient et justifieraient leur décision avec des sources primaires fondées sur des preuves.« , suggèrent les auteurs.
Les régulateurs, les sociétés professionnelles et les associations éducatives du monde entier doivent également jouer leur rôle, en produisant et en mettant régulièrement à jour des orientations sur l’impact de l’IA sur l’enseignement médical, exhortent les auteurs.
Ils concluent : «L’IA générative présente des avantages documentés et bien documentés, mais elle n’est pas sans pièges, en particulier pour l’enseignement médical et les apprenants novices. Ces outils peuvent fabriquer des sources, coder des préjugés, conduire à une confiance excessive et avoir des effets perturbateurs négatifs sur le parcours éducatif.
« Les programmes médicaux doivent être vigilants face à ces risques et ajuster leurs programmes d'études et de formation pour garder une longueur d'avance sur eux et atténuer leur probabilité.« .
