Les chatbots font de plus en plus partie des soins de santé dans le monde, mais encouragent-ils les préjugés ? C’est ce que les chercheurs de la faculté de médecine de l’Université du Colorado se demandent lorsqu’ils explorent les expériences des patients avec les programmes d’intelligence artificielle (IA) qui simulent la conversation.
« Parfois, on oublie à quoi ressemble un chatbot – son avatar », écrivent les chercheurs dans un nouvel article publié dans Annales de médecine interne. « Les avatars actuels des chatbots varient des logos du système de santé sans visage aux personnages de dessins animés ou aux caricatures humaines. Les chatbots pourraient un jour être des versions numérisées du médecin d’un patient, avec la ressemblance et la voix de ce médecin. Loin d’être une décision de conception anodine, les avatars des chatbots soulèvent de nouvelles questions éthiques questions sur le coup de pouce et les préjugés. »
L’article, intitulé « Plus qu’un joli visage ? Nudging and bias in chatbots », met les chercheurs et les professionnels de la santé au défi d’examiner de près les chatbots dans une optique d’équité en santé et de déterminer si la technologie améliore réellement les résultats pour les patients.
En 2021, la Fondation Greenwall a accordé à Matthew DeCamp, MD, PhD, professeur agrégé de la division CU de médecine interne générale, et à son équipe de chercheurs de la CU School of Medicine des fonds pour enquêter sur les questions éthiques entourant les chatbots. L’équipe de recherche comprenait également la professeure de médecine interne Annie Moore, MD, MBA, Joyce and Dick Brown Endowed Professor in Compassion in the Patient Experience, Marlee Akerson, nouvelle étudiante en médecine, et Matt Andazola, responsable de l’expérience et de l’innovation à UCHealth.
Si les chatbots sont le soi-disant « premier contact » des patients avec le système de santé, nous devons vraiment comprendre comment ils les vivent et quels pourraient être les effets sur la confiance et la compassion. »
Annie Moore, professeure, École de médecine, Université du Colorado
Jusqu’à présent, l’équipe a interrogé plus de 300 personnes et interrogé 30 autres sur leurs interactions avec les chatbots liés aux soins de santé. Pour Akerson, qui a dirigé les efforts d’enquête, c’est sa première expérience avec la recherche en bioéthique.
« Je suis ravie d’avoir eu la chance de travailler au Centre de bioéthique et des sciences humaines, et encore plus ravie de pouvoir continuer tout en étant étudiante en médecine ici à CU », dit-elle.
Le visage des soins de santé
Les chercheurs ont observé que les chatbots devenaient particulièrement courants autour de la pandémie de COVID-19.
« De nombreux systèmes de santé ont créé des chatbots pour vérifier les symptômes », explique DeCamp. « Vous pouvez aller en ligne et saisir des symptômes tels que la toux et la fièvre et cela vous dira quoi faire. En conséquence, nous nous sommes intéressés à l’éthique entourant l’utilisation plus large de cette technologie. »
Souvent, dit DeCamp, les avatars de chatbot sont considérés comme un outil de marketing, mais leur apparence peut avoir une signification beaucoup plus profonde.
« L’une des choses que nous avons remarquées très tôt était cette question de savoir comment les gens perçoivent la race ou l’ethnie du chatbot et quel effet cela pourrait avoir sur leur expérience », dit-il. « Il se peut que vous partagiez davantage avec le chatbot si vous percevez que le chatbot est de la même race que vous. »
Pour DeCamp et l’équipe de chercheurs, cela a soulevé de nombreuses questions éthiques, comme la façon dont les systèmes de soins de santé devraient concevoir des chatbots et si une décision de conception pourrait manipuler involontairement les patients.
Il semble y avoir des preuves que les gens peuvent partager plus d’informations avec les chatbots qu’avec les humains, et c’est là que la tension éthique entre en jeu : nous pouvons manipuler les avatars pour rendre le chatbot plus efficace, mais devrions-nous ? Cela franchit-il une ligne autour d’une influence excessive sur les décisions de santé d’une personne? » Dit DeCamp.
L’avatar d’un chatbot peut également renforcer les stéréotypes sociaux. Les chatbots qui présentent des caractéristiques féminines, par exemple, peuvent renforcer les préjugés sur le rôle des femmes dans les soins de santé.
D’autre part, un avatar peut également accroître la confiance parmi certains groupes de patients, en particulier ceux qui ont été historiquement mal desservis et sous-représentés dans les soins de santé, si ces patients sont en mesure de choisir l’avatar avec lequel ils interagissent.
« C’est plus démonstratif de respect », explique DeCamp. « Et c’est bien parce que cela crée plus de confiance et plus d’engagement. Cette personne a maintenant l’impression que le système de santé se soucie davantage d’elle. »
Marketing ou coup de coude ?
Bien qu’il existe actuellement peu de preuves, une hypothèse émerge selon laquelle la race ou l’origine ethnique perçue d’un chatbot peut avoir un impact sur la divulgation, l’expérience et la volonté du patient de suivre les recommandations en matière de soins de santé.
« Ce n’est pas surprenant », écrivent les chercheurs de l’UC dans le Annales papier. « Des décennies de recherche mettent en évidence la façon dont la concordance patient-médecin selon le sexe, la race ou l’origine ethnique dans les soins traditionnels en face à face soutient la qualité des soins de santé, la confiance et la satisfaction des patients. La concordance patient-chatbot pourrait être la suivante.
C’est une raison suffisante pour examiner les avatars comme des « coups de pouce », disent-ils. Les nudges sont généralement définis comme des changements à faible coût dans une conception qui influencent le comportement sans limiter le choix. Tout comme une cafétéria mettant des fruits près de l’entrée pourrait « inciter » les clients à choisir d’abord une option plus saine, un chatbot pourrait avoir un effet similaire.
« Le choix d’un patient ne peut en fait être restreint », souligne DeCamp. « Et les informations présentées doivent être exactes. Ce ne serait pas un coup de pouce si vous présentiez des informations trompeuses. »
De cette façon, l’avatar peut faire une différence dans le cadre des soins de santé, même si les coups de pouce ne sont pas nocifs.
DeCamp et son équipe exhortent la communauté médicale à utiliser les chatbots pour promouvoir l’équité en santé et reconnaître les implications qu’ils peuvent avoir afin que les outils d’intelligence artificielle puissent mieux servir les patients.
« Lutter contre les préjugés dans les chatbots fera plus qu’améliorer leurs performances », écrivent les chercheurs. « Si et quand les chatbots deviennent un premier contact pour les soins de santé de nombreux patients, la conception intentionnelle peut promouvoir une plus grande confiance dans les cliniciens et les systèmes de santé en général. »
