L'inexactitude des données sur la race et l'ethnicité trouvées dans les dossiers de santé électroniques (DSE) peut avoir un impact négatif sur les soins aux patients car l'intelligence artificielle (IA) est de plus en plus intégrée aux soins de santé. Étant donné que les hôpitaux et les prestataires collectent de manière incohérente de telles données et luttent pour classer avec précision les patients individuels, les systèmes d'IA formés sur ces ensembles de données peuvent hériter et perpétuer les biais raciaux.
Dans une nouvelle publication dans PLOS Digital Health, les experts en bioéthique et en droit appellent à la normalisation immédiate des méthodes de collecte de données raciales et d'origine ethnique, et pour que les développeurs garantissent la qualité des données raciales et ethnicité dans les systèmes d'IA médicaux. La recherche synthétise les préoccupations quant à la raison pour laquelle les données de race des patients dans les DSE peuvent ne pas être exactes, identifie les meilleures pratiques pour les systèmes de soins de santé et les chercheurs médicaux d'IA pour améliorer la précision des données et fournit un nouveau modèle pour les développeurs d'IA médicaux pour justifier de manière transparente la qualité de leurs données de race et d'ethnicité
L'auteur principal Alexandra Tsalidis, MBE, note que « si les développeurs de l'IA répondent à notre recommandation de divulguer comment leurs données de race et d'ethnicité ont été collectées, ils feront non seulement progresser la transparence dans une AI médicale, mais aussi aider les patients et les régulateurs évalueront de manière critique la sécurité de ces dispositifs de médecine. outils. »
Le biais de course dans les modèles d'IA est une énorme préoccupation car la technologie est de plus en plus intégrée dans les soins de santé. Cet article fournit une méthode concrète qui peut être mise en œuvre pour aider à répondre à ces préoccupations. «
Francis Shen, JD, PhD, auteur principal
Bien que davantage de travail doivent être effectués, l'article propose un point de départ suggère que le co-auteur Lakshmi Bharadwaj, MBE. « Un dialogue ouvert concernant les meilleures pratiques est une étape vitale, et les approches que nous suggérons pourraient générer des améliorations significatives. »
La recherche a été soutenue par le programme NIH Bridge to Artificial Intelligence (Bridge2ai) et par une subvention de neuroéthique du cerveau du NIH (R01MH134144).
