Les algorithmes conçus pour guider les soins médicaux peuvent contribuer à des résultats inéquitables sur le plan racial, mais éliminer les informations sur la race et l’origine ethnique des patients en tant qu’entrées dans les algorithmes n’est pas la bonne façon de résoudre le problème, selon une nouvelle analyse de la RAND Corporation.
Au lieu de cela, l’utilisation d’outils pour estimer les informations raciales et ethniques sur les patients lorsque les informations auto-identifiées ne sont pas disponibles pourrait catalyser les efforts visant à la fois à améliorer les algorithmes de soins de santé et à donner aux cliniciens les moyens de réduire les biais dans leur pratique.
L’analyse est publiée dans l’édition d’août de la revue Affaires de santé.
La connaissance de la race et de l’ethnicité – et non l’ignorance – est nécessaire pour lutter contre les préjugés algorithmiques. L’imputation d’informations sur la race et l’ethnicité peut élargir les possibilités non seulement d’identifier les biais algorithmiques, mais aussi de lutter contre les biais dans les contextes cliniques et non cliniques. »
Marc Elliott, auteur principal de l’article et statisticien principal principal chez RAND
Les algorithmes – des procédures mathématiques bien définies pour dériver des prédictions ou des scores à partir d’informations – sont largement utilisés pour faciliter la prise de décision dans le domaine des soins de santé. Ces outils influent sur les décisions concernant qui reçoit les soins, le type de soins qu’ils reçoivent, la façon dont les soins sont fournis et à quel prix.
Les algorithmes de soins de santé sont développés dans le but d’améliorer la qualité des soins en minimisant les variations dans la prise de décision clinique, en favorisant une plus grande adhésion aux meilleures pratiques et en maximisant l’utilisation efficace des ressources rares.
Par exemple, plusieurs études ont montré que les scores dérivés d’algorithmes prédisent les infections de l’angine streptococcique et identifient les lésions cutanées cancéreuses avec plus de précision que les évaluations cliniques.
À mesure que l’utilisation des algorithmes dans les soins de santé s’est développée, il est de plus en plus reconnu que les outils peuvent avoir pour conséquence involontaire de codifier les préjugés raciaux et ethniques, perpétuant potentiellement de pires résultats pour les patients.
Par exemple, il a été démontré qu’un algorithme largement utilisé développé pour aider à guider les soins pour l’insuffisance cardiaque dégonfle les scores de risque des patients noirs par rapport à des patients similaires d’autres races.
Dans un autre cas, un algorithme couramment utilisé pour prédire le succès d’un accouchement vaginal après une césarienne antérieure prédit un succès inférieur pour les mères noires et hispaniques par rapport aux mères blanches similaires.
Les chercheurs de RAND affirment que bien que les biais entretenus par les algorithmes puissent entraîner des résultats inéquitables, dans de nombreux cas, la prise de décision humaine biaisée est l’alternative au statu quo au biais algorithmique. En fait, les biais algorithmiques surviennent souvent lorsqu’un algorithme apprend à détecter des disparités déjà présentes dans les données sur lesquelles il est formé.
Bien que peu appellent à l’élimination des algorithmes pour aider à la prise de décision en matière de soins de santé, une recommandation courante pour réduire le potentiel de biais algorithmique est d’exclure la race et l’ethnicité en tant qu’intrant – une pratique communément appelée équité par inconscience.
Les chercheurs de RAND soutiennent qu’une meilleure stratégie consiste à utiliser des outils de disparité en matière de santé (y compris ceux largement utilisés développés par l’équipe RAND) pour mesurer les inégalités algorithmiques par race et origine ethnique, ce qui peut être possible même lorsque la race et l’origine ethnique d’un patient n’ont pas été autodéclarées .
L’imputation de données manquantes ou non fiables sur la race et l’ethnicité facilite l’identification des biais algorithmiques et indique clairement les mesures correctives nécessaires pour réduire ou supprimer les biais algorithmiques des décisions de traitement.
Un autre exemple de la façon dont les informations imputées sur la race et l’origine ethnique peuvent améliorer l’équité en matière de soins de santé serait d’utiliser ces informations pour assurer l’équité dans les systèmes de rémunération au rendement qui utilisent des systèmes de paiement pour récompenser les cliniciens qui fournissent des soins de meilleure qualité.
« L’imputation de la race et de l’ethnicité dans la recherche sur les soins de santé a traditionnellement été appliquée pour identifier les disparités en matière de santé », a déclaré Elliott. « La croissance et l’utilisation continues d’algorithmes dans les décisions en matière de soins de santé mettent en lumière la nécessité de tirer parti de l’imputation de la race et de l’origine ethnique pour traiter les disparités en matière de santé de nouvelles manières. »
