Dans un tiers des cas, les chatbots IA rassurent à tort les patients souffrant d’apnée du sommeil en leur disant que leurs symptômes ne sont pas graves, les décourageant ainsi de chercher à être orientés vers un spécialiste, selon une étude présentée au congrès de la Société européenne de respiration (ERS) à Barcelone, en Espagne.
Les patients souffrant d’apnée obstructive du sommeil (AOS) ronflent souvent bruyamment, leur respiration démarre et s’arrête pendant la nuit et ils peuvent se réveiller plusieurs fois. Non seulement cela provoque une somnolence excessive, mais cela peut également augmenter le risque d’hypertension artérielle, d’accident vasculaire cérébral, de maladie cardiaque et de diabète de type 2. Le SAOS est très courant, mais de nombreuses personnes ne réalisent pas qu’elles en sont atteintes.
La nouvelle étude a été présentée par le Dr Deeban Ratneswaran, chercheur au Guy’s and St Thomas’ NHS Foundation Trust, à Londres, et universitaire invité au King’s College de Londres, au Royaume-Uni.
Dr Ratneswaran a déclaré au Congrès : «Les chatbots IA gratuits génèrent des centaines de millions d’interactions par semaine et sont devenus un premier interlocuteur pour les questions de santé, souvent avant qu’un clinicien ne soit impliqué. Pourtant, les recherches menées jusqu’à présent ont principalement testé s’ils répondaient avec précision à des questions médicales clairement formulées, et non comment ils se comportaient lorsqu’un patient refusait.
« J’étudie comment l’IA échoue dans la relation médecin-patient et un mode d’échec s’impose comme le plus dangereux : la tendance de ces modèles à vous dire ce que vous voulez entendre.« .
Le Dr Ratneswaran pensait que l’AOS serait le cas test parfait : 80 à 90 % des cas modérés à graves ne sont pas diagnostiqués, le diagnostic dépend entièrement de la référence et de nombreux patients minimisent leurs symptômes.
L’équipe de recherche a créé sept « patients » réalistes atteints d’AOS, qui répondaient chacun aux critères pour être référés à une étude du sommeil (un test dans lequel les médecins surveillent votre respiration pendant que vous dormez pour diagnostiquer des affections comme l’AOS). Ils ont ensuite créé des conversations entre les patients et les cinq chatbots gratuits les plus utilisés : ChatGPT, Google Gemini, Claude, DeepSeek et Grok.
Au total, nous avons mené 700 conversations. Chaque scénario s’est déroulé en deux versions avec des faits médicaux identiques : une dans laquelle le patient était ouvert et coopératif, et une dans laquelle il minimisait ses symptômes et résistait à l’orientation, de sorte que tout changement dans le comportement du chatbot dépendrait de l’attitude du patient.
Dr Deeban Ratneswaran, chercheur au Guy’s and St Thomas’ NHS Foundation Trust, Londres
Les chercheurs ont découvert qu’avec un patient coopératif, les chatbots réussissaient à chaque fois : 350 conversations sur 350 se terminaient par un conseil correct pour demander une évaluation à un spécialiste. Mais lorsque les mêmes faits médicaux provenaient d’un patient réticent à être référé, ces conseils ont survécu dans seulement 64 % des conversations (225 sur 350).
Le Dr Ratneswaran explique : « Les conseils corrects ont été abandonnés plus d’un tiers du temps simplement à cause de la façon dont le patient parlait. Et les modèles ont cédé le plus dans les cas les plus graves : dans un cas grave, le conseil n’a survécu que 22 % du temps, et chez un homme qui s’était déjà assoupi au volant, dans 32 % des cas, le risque de conduite n’étant généralement pas mentionné par le chatbot lors des échecs.
Dans environ un quart à la moitié des conversations avec les patients qui ont minimisé leurs symptômes, selon le modèle, l’IA a offert aux patients des conseils sur leur mode de vie au lieu de recommander une référence, approuvant un retard risqué dans le traitement.
Le Dr Ratneswaran estime que les patients devraient se méfier des informations rassurées par les chatbots. « Si vous ronflez fort, arrêtez de respirer pendant votre sommeil ou luttez contre la somnolence diurne, notamment au volant, consultez un clinicien – même si un chatbot dit qu’il peut attendre », ajoute-t-il.
Le Dr Io Hui, président du groupe de la Société européenne de respiration sur la M-santé et la e-santé et membre honoraire en santé numérique à l’Université d’Édimbourg, au Royaume-Uni, qui n’a pas participé à la recherche, a déclaré : « Les chatbots IA sont largement disponibles et nous savons que les gens les utilisent de plus en plus pour poser des questions sur leur santé.
« Cette recherche montre que les chatbots peuvent donner de bons conseils au patient idéal « coopératif », mais qu’ils s’en dissuadent lorsqu’ils parlent à un patient plus réaliste et réticent. Le problème n’est pas ce que savent les chatbots, c’est la façon dont ils gèrent les désaccords ; ils semblent montrer une tendance à plaire à l’utilisateur, un phénomène connu sous le nom de « flagornerie de l’IA ».
« Ces outils d’IA largement non réglementés constituent souvent la première étape pour les patients cherchant un diagnostic, et bien qu’ils puissent être une source d’informations utile, ils pourraient empêcher les gens d’accéder au traitement. Toute personne présentant des symptômes possibles d’apnée du sommeil doit toujours en parler à son médecin pour obtenir des conseils supplémentaires. »
