Lorsque Judith Miller a fait des analyses de sang de routine en juillet, elle a obtenu une alerte de téléphone le même jour que les résultats de son laboratoire ont été publiés en ligne. Ainsi, lorsque son médecin l'a envoyée le lendemain que ses tests globaux étaient bien, Miller a écrit pour poser des questions sur le dioxyde de carbone élevé et un faible écart d'anion répertorié dans le rapport.
Alors que le résident de Milwaukee, âgé de 76 ans, attendait de remonter, Miller a fait quelque chose que les patients faisaient de plus en plus lorsqu'ils ne peuvent pas atteindre leur équipe de soins de santé. Elle a mis ses résultats de test à Claude et a demandé à l'assistant de l'IA d'évaluer les données.
« Claude m'a aidé à comprendre clairement les anomalies », a déclaré Miller. Le modèle génératif de l'IA n'a rien signalé d'alarmant, donc elle n'était pas anxieuse en attendant de ramener son médecin, a-t-elle déclaré.
Les patients ont un accès sans précédent à leurs dossiers médicaux, souvent par le biais de portails de patients en ligne tels que MyChart, car la loi fédérale oblige les organisations de santé à publier immédiatement des informations de santé électroniques, telles que des notes sur les visites chez le médecin et les résultats des tests. Une étude publiée en 2023 a révélé que 96% des patients interrogés souhaitent un accès immédiat à leurs dossiers, même si leur fournisseur ne les avait pas examinés.
Et de nombreux patients utilisent de grands modèles de langage, ou LLMS, comme Chatgpt d'Openai, le Claude d'Anthropic et les Gémeaux de Google, pour interpréter leurs dossiers. Cette aide comporte cependant un certain risque. Les médecins et les défenseurs des patients préviennent que les chatbots de l'IA peuvent produire de mauvaises réponses et que les informations médicales sensibles pourraient ne pas rester privées.
Pourtant, la plupart des adultes sont prudents sur l'IA et la santé. Cinquante-six pour cent de ceux qui utilisent ou interagissent avec l'IA ne sont pas convaincus que les informations fournies par les chatbots d'IA sont exactes, selon un sondage de 2024 KFF. KFF est un organisme à but non lucratif d'information sur la santé qui comprend KFF Health News.
« Les LLM sont théoriquement très puissantes et ils peuvent donner de bons conseils, mais ils peuvent également donner des conseils vraiment terribles selon la façon dont ils sont invités », a déclaré Adam Rodman, interniste à Beth Israel Deaconess Medical Center à Massachusetts et président d'un groupe de pilotage sur une AI générative à la Harvard Medical School.
Justin Honce, neuroradiologue à UChealth dans le Colorado, a déclaré que cela peut être très difficile pour les patients qui ne sont pas médicalement formés pour savoir si les chatbots d'IA font des erreurs.
« En fin de compte, c'est juste le besoin de prudence dans l'ensemble avec les LLM. Avec les derniers modèles, ces préoccupations continuent d'obtenir de moins en moins un problème mais n'ont pas été entièrement résolues », a déclaré Honce.
Rodman a vu une augmentation de l'utilisation de l'IA chez ses patients au cours des six derniers mois. Dans un cas, un patient a pris une capture d'écran de ses résultats de laboratoire d'hôpital sur MyChart, puis l'a téléchargée sur Chatgpt pour préparer des questions avant son rendez-vous. Rodman a déclaré qu'il accueille les patients montrant comment ils utilisent l'IA et que leurs recherches crée une opportunité de discussion.
Environ 1 adulte sur 7 plus de 50 utilise l'IA pour recevoir des informations sur la santé, selon un récent sondage de l'Université du Michigan, tandis que 1 adulte sur 4 de moins de 30 ans le fait, selon le sondage KFF.
Utiliser Internet pour plaider pour un meilleur soin pour soi n'est pas nouveau. Les patients ont traditionnellement utilisé des sites Web tels que WebMD, PubMed ou Google pour rechercher les dernières recherches et ont demandé des conseils à d'autres patients sur des plateformes de médias sociaux comme Facebook ou Reddit. Mais la capacité d'Ai Chatbots à générer des recommandations personnalisées ou des secondes opinions en secondes est nouvelle.
Liz Salmi, directrice des initiatives des communications et des patients chez OpenNotes, un laboratoire universitaire de Beth Israel Deaconess qui plaide pour la transparence dans les soins de santé, s'était demandé à quel point l'IA était bonne à l'interprétation, en particulier pour les patients.
Dans une étude de preuve de concept publié cette année, Salmi et ses collègues ont analysé la précision des réponses de Chatgpt, Claude et Gemini aux questions des patients sur une note clinique. Les trois modèles d'IA ont bien fonctionné, mais comment les patients ont encadré leurs questions importaient, a déclaré Salmi. Par exemple, dire au chatbot de l'IA de prendre le personnage d'un clinicien et de lui poser une question à la fois amélioré l'exactitude de ses réponses.
La confidentialité est une préoccupation, a déclaré Salmi, il est donc essentiel de supprimer des informations personnelles comme votre nom ou votre numéro de sécurité sociale à partir des invites. Les données vont directement aux sociétés technologiques qui ont développé des modèles d'IA, a déclaré Rodman, ajoutant qu'il n'était au courant d'aucun qui respecte la loi fédérale sur la vie privée ou envisage la sécurité des patients. Sam Altman, PDG d'Openai, a averti un podcast le mois dernier de mettre des informations personnelles dans le chatppt.
« Beaucoup de gens qui sont nouveaux dans l'utilisation de modèles de gros langues peuvent ne pas connaître les hallucinations », a déclaré Salmi, se référant à une réponse qui peut sembler sensée mais est inexacte. Par exemple, le chuchotement d'Openai, un outil de transcription assisté par l'IA utilisé dans les hôpitaux, a introduit un traitement médical imaginaire dans une transcription, selon un rapport de l'Associated Press.
L'utilisation d'une IA générative exige un nouveau type de littératie en santé numérique qui comprend de poser des questions d'une manière particulière, de vérifier les réponses avec d'autres modèles d'IA, de parler à votre équipe de soins de santé et de protéger votre vie privée en ligne, a déclaré Salmi et Dave DeBronkart, un survivant du cancer et un défenseur des patients qui écrit un blog consacré à l'utilisation des patients de l'IA.
Les patients ne sont pas les seuls à utiliser l'IA pour expliquer les résultats des tests. Stanford Health Care a lancé un assistant d'IA qui aide ses médecins à proposer des interprétations des tests cliniques et des résultats de laboratoire à envoyer aux patients. Des chercheurs du Colorado ont étudié la précision des résumés générés par Chatgpt de 30 rapports de radiologie, ainsi que la satisfaction de quatre patients à leur sujet. Sur les 118 réponses valides des patients, 108 ont indiqué que les résumés de Chatgpt ont clarifié les détails sur le rapport d'origine.
Mais Chatgpt a parfois surestimé ou sous-estimé les résultats, et un nombre petit mais significatif de réponses indiquait les patients étaient plus confus après avoir lu les résumés, a déclaré Honce, qui a participé à l'étude de préparation.
Pendant ce temps, après quatre semaines et quelques messages de suivi de Miller à Mychart, le médecin de Miller a ordonné une répétition de ses analyses de sang et d'un test supplémentaire que Miller a suggéré. Les résultats sont revenus normaux. Miller a été soulagée et a déclaré qu'elle était mieux informée en raison de ses enquêtes sur l'IA.
« C'est un outil très important à cet égard », a déclaré Miller. « Cela m'aide à organiser mes questions et à faire mes recherches et à niveler les règles du jeu. »
