Les scientifiques appellent à la prudence avant que des modèles d’intelligence artificielle (IA) tels que ChatGPT ne soient utilisés dans les soins de santé pour les populations de minorités ethniques. Écrire dans le Journal de la Société royale de médecinedes épidémiologistes de l’Université de Leicester et de l’Université de Cambridge affirment que les inégalités existantes pour les minorités ethniques pourraient s’enraciner davantage en raison de biais systémiques dans les données utilisées par les outils d’IA pour la santé.
Les modèles d’IA doivent être « formés » à l’aide de données extraites de différentes sources telles que les sites Web de soins de santé et la recherche scientifique. Cependant, les preuves montrent que les données sur l’ethnicité sont souvent absentes de la recherche sur les soins de santé. Les minorités ethniques sont également moins représentées dans les essais de recherche.
Cette représentation disproportionnellement plus faible des minorités ethniques dans la recherche a des preuves qu’elle cause du tort, par exemple en créant des traitements médicamenteux inefficaces ou des directives de traitement qui pourraient être considérées comme racistes. »
Si la littérature publiée contient déjà des biais et moins de précision, il est logique que les futurs modèles d’IA les maintiennent et les exacerbent davantage. »
Mohammad Ali, PhD Fellow en épidémiologie au Collège des sciences de la vie, Université de Leicester
Les chercheurs craignent également que les inégalités en matière de santé ne s’aggravent dans les pays à revenu faible ou intermédiaire (PRFI). Les modèles d’IA sont principalement développés dans des pays plus riches comme les États-Unis et l’Europe et une disparité significative dans la recherche et le développement existe entre les pays à revenu élevé et à faible revenu.
Les chercheurs soulignent que la plupart des recherches publiées ne donnent pas la priorité aux besoins des personnes vivant dans les PRITI avec leurs défis de santé uniques, en particulier en ce qui concerne la prestation de soins de santé. Les modèles d’IA, disent-ils, peuvent fournir des conseils basés sur des données sur des populations totalement différentes de celles des PRITI.
Bien qu’il soit crucial de reconnaître ces difficultés potentielles, disent les chercheurs, il est tout aussi important de se concentrer sur les solutions. « Nous devons faire preuve de prudence, en reconnaissant que nous ne pouvons pas et ne devons pas endiguer le flux de progrès », a déclaré M. Ali.
Les chercheurs suggèrent des moyens de surmonter les inégalités de santé potentiellement exacerbantes, en commençant par la nécessité pour les modèles d’IA de décrire clairement les données utilisées dans leur développement. Ils affirment également que des travaux sont nécessaires pour lutter contre les inégalités ethniques en matière de santé dans la recherche, notamment en améliorant le recrutement et l’enregistrement des informations sur l’origine ethnique. Les données utilisées pour former les modèles d’IA doivent être suffisamment représentatives, avec des acteurs clés tels que l’ethnicité, l’âge, le sexe et les facteurs socio-économiques pris en compte. Des recherches supplémentaires sont également nécessaires pour comprendre l’utilisation des modèles d’IA dans le contexte de populations ethniquement diverses.
En tenant compte de ces considérations, affirment les chercheurs, la puissance des modèles d’IA peut être exploitée pour entraîner des changements positifs dans les soins de santé tout en favorisant l’équité et l’inclusivité.
