Les membres du public sont invités à aider à éliminer les préjugés fondés sur la race et d’autres groupes défavorisés dans les algorithmes d’intelligence artificielle pour les soins de santé.
Les chercheurs en santé demandent de l’aide pour expliquer comment les groupes «minorisés», qui sont activement désavantagés par les constructions sociales, ne verraient pas les avantages futurs de l’utilisation de l’IA dans les soins de santé. L’équipe, dirigée par l’Université de Birmingham et les hôpitaux universitaires de Birmingham, écrit dans Médecine naturelle aujourd’hui à l’occasion du lancement d’une consultation sur un ensemble de normes qui, espèrent-ils, réduiront les biais connus pour exister dans les algorithmes d’IA.
Il est de plus en plus évident que certains algorithmes d’IA fonctionnent moins bien pour certains groupes de personnes, en particulier celles appartenant à des groupes raciaux/ethniques minorisés. Cela est en partie dû à des biais dans les ensembles de données utilisés pour développer des algorithmes d’IA. Cela signifie que les patients des groupes ethniques noirs et minoritaires peuvent recevoir des prédictions inexactes, conduisant à un diagnostic erroné et à de mauvais traitements.
STANDING Together est une collaboration internationale qui développera des normes de bonnes pratiques pour les ensembles de données de soins de santé utilisés dans l’intelligence artificielle, en veillant à ce qu’ils soient diversifiés, inclusifs et ne laissent pas derrière eux des groupes sous-représentés ou minorisés. Le projet est financé par le NHS AI Lab et la Health Foundation, et le financement est administré par le National Institute for Health and Care Research, le partenaire de recherche du NHS, de la santé publique et des services sociaux, dans le cadre du NHS AI Lab. Initiative d’éthique de l’IA.
Le Dr Xiaoxuan Liu de l’Institut de l’inflammation et du vieillissement de l’Université de Birmingham et co-responsable du projet STANDING Together a déclaré :
« En établissant la base de données correcte, STANDING Together garantit que » personne n’est laissé pour compte « alors que nous cherchons à exploiter les avantages des technologies basées sur les données telles que l’IA. Nous avons ouvert notre étude Delphi au public afin de maximiser notre portée Cela nous aidera à nous assurer que les recommandations faites par STANDING Together représentent vraiment ce qui compte pour notre communauté diversifiée.
Le professeur Alastair Denniston, ophtalmologiste consultant aux hôpitaux universitaires de Birmingham et professeur à l’Institut de l’inflammation et du vieillissement de l’Université de Birmingham, est co-responsable du projet. Le professeur Denniston a déclaré :
« En tant que médecin du NHS, je salue l’arrivée des technologies d’IA qui peuvent nous aider à améliorer les soins de santé que nous offrons – un diagnostic plus rapide et plus précis, un traitement de plus en plus personnalisé et des interfaces de santé qui donnent un plus grand contrôle au patient. Mais nous devons également nous assurer que ces technologies sont inclusives. Nous devons nous assurer qu’elles fonctionnent efficacement et en toute sécurité pour tous ceux qui en ont besoin. »
C’est l’un des projets les plus enrichissants sur lesquels j’ai travaillé, car il intègre non seulement mon grand intérêt pour l’utilisation de données validées précises et mon intérêt pour une bonne documentation pour aider à la découverte, mais aussi le besoin pressant d’impliquer les groupes minoritaires et mal desservis dans la recherche. qui leur profite. Dans ce dernier groupe bien sûr, il y a des femmes. »
Jacqui Gath, patiente partenaire, projet STANDING Together
Le projet STANDING Together est désormais ouvert à la consultation publique, dans le cadre d’une étude de consensus Delphi. Les chercheurs invitent les membres du public, les professionnels de la santé, les chercheurs, les développeurs d’IA, les scientifiques des données, les décideurs politiques et les régulateurs à aider à réviser ces normes afin de s’assurer qu’elles fonctionnent pour vous et toute personne avec qui vous collaborez.
