Dans un article de synthèse récent publié dans Médecine numérique npjles chercheurs ont étudié les implications éthiques du déploiement de grands modèles linguistiques (LLM) dans les soins de santé à travers une revue systématique.
Leurs conclusions indiquent que même si les LLM offrent des avantages significatifs tels qu’une analyse améliorée des données et un soutien à la décision, les préoccupations éthiques persistantes concernant l’équité, la partialité, la transparence et la confidentialité soulignent la nécessité de lignes directrices éthiques définies et d’une surveillance humaine dans leur application.
Étude: L'éthique de ChatGPT en médecine et dans le domaine de la santé : une revue systématique sur les modèles de langage à grande échelle (LLM)Crédit photo : Summit Art Creations/Shutterstock.com
Sommaire
Arrière-plan
Les LLM ont suscité un intérêt généralisé en raison de leurs capacités avancées en matière d'intelligence artificielle (IA), démontrées de manière éclatante depuis qu'OpenAI a publié ChatGPT en 2022.
Cette technologie s’est rapidement développée dans divers secteurs, notamment la médecine et les soins de santé, se révélant prometteuse pour la prise de décision clinique, le diagnostic et les tâches de communication avec les patients.
Cependant, au-delà de leurs avantages potentiels, des inquiétudes ont émergé quant à leurs implications éthiques. Des recherches antérieures ont mis en évidence des risques tels que la diffusion d’informations médicales inexactes, les atteintes à la vie privée liées au traitement de données sensibles sur les patients et la perpétuation de préjugés fondés sur le sexe, la culture ou la race.
Malgré ces préoccupations, il existe un manque notable d’études exhaustives qui abordent systématiquement les défis éthiques liés à l’intégration des LLM dans les soins de santé. La littérature existante se concentre sur des cas spécifiques plutôt que de fournir une vue d’ensemble holistique.
Méthodes
Il est essentiel de combler les lacunes existantes dans ce domaine, car les environnements de soins de santé exigent des normes et des réglementations éthiques rigoureuses.
Dans cette revue systématique, les chercheurs ont cartographié le paysage éthique entourant le rôle des LLM dans les soins de santé afin d'identifier les avantages et les inconvénients potentiels afin d'éclairer les futures discussions, politiques et lignes directrices visant à régir l'utilisation éthique des LLM.
Les chercheurs ont élaboré un protocole d'évaluation sur les applications pratiques et les considérations éthiques, enregistré dans le Registre prospectif international des revues systématiques. Aucune approbation éthique n'était requise.
Ils ont effectué des recherches dans les bases de données de publications pertinentes et les serveurs de pré-impressions pour collecter des données, en considérant les pré-impressions en raison de leur prévalence dans les domaines technologiques et de leur pertinence potentielle non encore indexée dans les bases de données.
Les critères d’inclusion étaient basés sur l’intervention, le cadre d’application et les résultats, sans restriction sur le type de publication mais excluant les travaux portant uniquement sur l’enseignement médical ou la rédaction universitaire.
Après un premier examen des titres et des résumés, les données ont été extraites et codées à l'aide d'un formulaire structuré. L'évaluation de la qualité s'est concentrée de manière descriptive sur les critères de qualité procédurale pour distinguer les documents évalués par les pairs, en s'appuyant de manière critique sur les résultats pour en vérifier la validité et l'exhaustivité lors de la rédaction du rapport.
Résultats
L'étude a analysé 53 articles pour explorer les implications éthiques et les applications des LLM dans le domaine de la santé. Quatre thèmes principaux ont émergé de la recherche : les applications cliniques, les applications de soutien aux patients, le soutien aux professionnels de la santé et les perspectives de santé publique.
Dans les applications cliniques, les LLM montrent un potentiel pour aider au diagnostic initial et au triage des patients, en utilisant une analyse prédictive pour identifier les risques pour la santé et recommander des traitements.
Toutefois, des inquiétudes se font jour quant à leur exactitude et aux biais potentiels dans leurs processus décisionnels. Ces biais pourraient conduire à des diagnostics ou recommandations de traitement erronés, soulignant la nécessité pour les professionnels de santé d'exercer une surveillance attentive.
Les applications d'assistance aux patients se concentrent sur les LLM qui aident les individus à accéder aux informations médicales, à gérer les symptômes et à naviguer dans les systèmes de santé.
Bien que les LLM puissent améliorer la littératie en santé et la communication au-delà des barrières linguistiques, la confidentialité des données et la fiabilité des conseils médicaux générés par ces modèles restent des considérations éthiques importantes.
Pour soutenir les professionnels de la santé, des LLM sont proposés pour automatiser les tâches administratives, résumer les interactions avec les patients et faciliter la recherche médicale.
Bien que cette automatisation puisse améliorer l’efficacité, des inquiétudes subsistent quant à son impact sur les compétences professionnelles, l’intégrité des résultats de la recherche et le risque de biais dans l’analyse automatisée des données.
D’un point de vue de santé publique, les LLM offrent des possibilités de surveiller les épidémies, d’améliorer l’accès à l’information sur la santé et d’améliorer la communication en matière de santé publique.
L’étude met toutefois en évidence des risques tels que la diffusion de fausses informations et la concentration du pouvoir de l’IA entre les mains de quelques entreprises, susceptibles d’exacerber les disparités en matière de santé et de saper les efforts de santé publique.
Dans l’ensemble, bien que les LLM présentent des avancées prometteuses dans le domaine des soins de santé, leur déploiement éthique nécessite une prise en compte attentive des préjugés, des problèmes de confidentialité et de la nécessité d’une surveillance humaine pour atténuer les préjudices potentiels et garantir un accès équitable et la sécurité des patients.
Conclusions
Les chercheurs ont constaté que les LLM tels que ChatGPT sont largement explorés dans le domaine de la santé pour leur potentiel à améliorer l'efficacité et les soins aux patients en analysant rapidement de grands ensembles de données et en fournissant des informations personnalisées.
Toutefois, des préoccupations éthiques persistent, notamment en matière de préjugés, de problèmes de transparence et de génération d’informations trompeuses appelées hallucinations, qui peuvent avoir de graves conséquences en milieu clinique.
L’étude s’inscrit dans le cadre de recherches plus larges sur l’éthique de l’IA, soulignant les complexités et les risques liés au déploiement de l’IA dans les soins de santé.
Les points forts de cette étude comprennent une revue complète de la littérature et une catégorisation structurée des candidatures au LLM et des questions éthiques.
Les limites comprennent la nature évolutive de l’examen éthique dans ce domaine, le recours aux sources pré-imprimées et la prédominance des perspectives d’Amérique du Nord et d’Europe.
Les recherches futures devraient se concentrer sur la définition de lignes directrices éthiques solides, l’amélioration de la transparence des algorithmes et la garantie d’un déploiement équitable des LLM dans les contextes de soins de santé mondiaux.