Le déploiement rapide de l’intelligence artificielle et de l’apprentissage automatique pour lutter contre le coronavirus doit toujours passer par des freins et contrepoids éthiques, sinon nous risquons de nuire aux communautés déjà défavorisées dans la précipitation pour vaincre la maladie.
C’est ce que disent des chercheurs du Leverhulme Center for the Future of Intelligence (CFI) de l’Université de Cambridge dans deux articles, publiés aujourd’hui dans le Journal médical britannique, mettant en garde contre l’utilisation aveugle de l’IA pour la collecte de données et la prise de décision médicale alors que nous nous battons pour retrouver une certaine normalité en 2021.
L’assouplissement des exigences éthiques dans une crise pourrait avoir des conséquences néfastes involontaires qui durent bien au-delà de la durée de la pandémie.
Dr Stephen Cave, auteur principal de l’étude et directeur, Leverhulme Center for the Future of Intelligence, Université de Cambridge
« L’introduction soudaine d’une IA complexe et opaque, automatisant les jugements autrefois faits par les humains et aspirant des informations personnelles, pourrait saper la santé des groupes défavorisés ainsi que la confiance à long terme du public dans la technologie. »
Dans un autre article, co-écrit par le Dr Alexa Hagerty de la FCI, les chercheurs soulignent les conséquences potentielles découlant du fait que l’IA fait maintenant des choix cliniques à grande échelle – prédisant les taux de détérioration des patients qui pourraient avoir besoin d’une ventilation, par exemple – si elle le fait sur la base de données biaisées. .
Les ensembles de données utilisés pour «former» et affiner les algorithmes d’apprentissage automatique sont inévitablement biaisés contre les groupes qui accèdent moins fréquemment aux services de santé, tels que les communautés ethniques minoritaires et ceux de «statut socio-économique inférieur».
«Le COVID-19 a déjà eu un impact disproportionné sur les communautés vulnérables. Nous savons que ces systèmes peuvent faire de la discrimination, et tout biais algorithmique dans le traitement de la maladie pourrait entraîner un autre coup de poing brutal», a déclaré Hagerty.
En décembre, des manifestations ont eu lieu lorsque l’algorithme du Stanford Medical Centre a donné la priorité aux travailleurs à domicile à vacciner par rapport à ceux des services de Covid. «Les algorithmes sont maintenant utilisés à l’échelle locale, nationale et mondiale pour définir l’attribution des vaccins. Dans de nombreux cas, l’IA joue un rôle central pour déterminer qui est le mieux placé pour survivre à la pandémie», a déclaré Hagerty.
« Dans une crise sanitaire de cette ampleur, les enjeux de justice et d’équité sont extrêmement élevés. »
Avec ses collègues, Hagerty met en évidence le « fluage de la discrimination » bien établi dans l’IA qui utilise la technologie du « traitement du langage naturel » pour récupérer les profils de symptômes dans les dossiers médicaux – reflétant et exacerbant les préjugés contre les minorités déjà dans les notes de cas.
Ils soulignent que certains hôpitaux utilisent déjà ces technologies pour extraire des informations de diagnostic à partir d’une gamme de dossiers, et que certains utilisent maintenant cette IA pour identifier les symptômes de l’infection au COVID-19.
De même, l’utilisation d’applications de suivi et de trace crée le potentiel d’ensembles de données biaisés. Les chercheurs écrivent qu’au Royaume-Uni, plus de 20% des personnes âgées de plus de 15 ans n’ont pas les compétences numériques essentielles, et jusqu’à 10% de certains «sous-groupes» de la population ne possèdent pas de smartphone.
«Qu’ils proviennent de dossiers médicaux ou de technologies de tous les jours, des ensembles de données biaisés appliqués de manière unique pour lutter contre le COVID-19 pourraient s’avérer nocifs pour les personnes déjà défavorisées», a déclaré Hagerty.
Dans les articles du BMJ, les chercheurs citent des exemples tels que le fait qu’un manque de données sur la couleur de la peau rend presque impossible pour les modèles d’IA de produire un calcul précis à grande échelle des niveaux d’oxygène dans le sang. Ou comment un outil algorithmique utilisé par le système pénitentiaire américain pour calibrer la récidive – et s’est avéré racialement biaisé – a été réutilisé pour gérer son risque d’infection au COVID-19.
Le Leverhulme Center for the Future of Intelligence a récemment lancé le premier cours de maîtrise en éthique de l’IA au Royaume-Uni. Pour Cave et ses collègues, l’apprentissage automatique à l’ère Covid doit être considéré à travers le prisme de l’éthique biomédicale – en particulier les «quatre piliers».
Le premier est la bienfaisance. « L’utilisation de l’IA vise à sauver des vies, mais cela ne doit pas être utilisé comme une justification générale pour créer des précédents autrement indésirables, tels que l’utilisation généralisée de logiciels de reconnaissance faciale », a déclaré Cave.
En Inde, les programmes d’identité biométrique peuvent être liés à la distribution de vaccins, ce qui soulève des préoccupations pour la confidentialité et la sécurité des données. D’autres algorithmes d’attribution de vaccins, dont certains utilisés par l’alliance COVAX, sont pilotés par une IA privée, explique Hagerty. «Les algorithmes propriétaires rendent difficile la recherche de la« boîte noire »et la manière dont ils déterminent les priorités en matière de vaccins.»
La seconde est la «non-malfaisance», ou éviter des préjudices inutiles. Un système programmé uniquement pour préserver la vie ne tiendra pas compte des taux de «long covid», par exemple. Troisièmement, l’autonomie humaine doit faire partie du calcul. Les professionnels doivent faire confiance aux technologies et les concepteurs doivent considérer comment les systèmes affectent le comportement humain – des précautions personnelles aux décisions de traitement.
Enfin, l’IA basée sur les données doit être étayée par des idéaux de justice sociale. « Nous devons impliquer diverses communautés et consulter un éventail d’experts, des ingénieurs aux équipes médicales de première ligne. Nous devons être ouverts sur les valeurs et les compromis inhérents à ces systèmes », a déclaré Cave.
« L’IA a le potentiel de nous aider à résoudre les problèmes mondiaux, et la pandémie est incontestablement une pandémie majeure. Mais s’appuyer sur une IA puissante en cette période de crise pose des défis éthiques qui doivent être pris en compte pour garantir la confiance du public. »
La source:
Référence du journal:
Cave, S., et al. (2021) Utiliser l’IA de manière éthique pour lutter contre le covid-19. Journal médical britannique. doi.org/10.1136/bmj.n364.
