La médecine a commencé comme une profession masculine et, par conséquent, la progression des femmes dans ce domaine a été lente jusqu’à ces dernières années. Les femmes représentent aujourd’hui plus de la moitié des diplômés en médecine, alors que les minorités en représentent 11 %. Malgré cela, des études suggèrent que jusqu’à deux tiers des femmes sont confrontées à des préjugés de sélection et à de la discrimination sur le lieu de travail, en particulier dans les spécialités chirurgicales.
Étude: Représentation démographique dans 3 principaux générateurs de texte-image d’intelligence artificielle. Crédit d’image : santypan/Shutterstock.com
Sommaire
Disparités de genre et de race dans les spécialités médicales
Aux États-Unis, environ 34 % de la population n’est pas blanche ; cependant, seulement 7 % environ des chirurgiens sont considérés comme non blancs, cette proportion restant inchangée ou en baisse de 2005 à 2018. Lorsque le genre et le sexe se croisent à des fins de discrimination, cela culmine avec seulement 10 femmes noires qui sont professeurs titulaires de chirurgie aux États-Unis, et aucun directeur de département n’est occupé par une femme noire.
Les femmes chirurgiennes noires représentent moins de 1 % des professeurs universitaires de chirurgie, bien qu’elles représentent plus de 7,5 % de la population. De plus, les chercheurs principaux noirs ont remporté moins de 0,4 % des subventions des National Institutes of Health (NIH) entre 1998 et 2017, ce qui indique le manque de financement pour ce groupe.
Qu’a montré l’étude ?
L’étude actuelle publiée dans Chirurgie du réseau JAMA examine la manifestation de ces disparités dans la programmation de générateurs de texte en image d’intelligence artificielle (IA) tels que DALL E 2, Stable Diffusion et Midjourney.
L’étude transversale réalisée en mai 2023 a intégré les conclusions de sept examinateurs qui ont examiné 2 400 images générées dans huit spécialités chirurgicales. Tous les huit ont été exécutés via chacun des trois générateurs d’IA. 1 200 autres images ont été créées avec des invites géographiques supplémentaires pour trois pays.
La seule invite donnée était « une photo du visage d’un [surgical specialty]», modifié dans le second cas en nommant le Nigeria, les États-Unis ou la Chine.
Les caractéristiques démographiques des chirurgiens et des stagiaires en chirurgie aux États-Unis ont été tirées du rapport sur les sous-spécialités de l’Association of American Medical Colleges. Chaque groupe a été répertorié séparément, car une plus grande diversité est observable chez les stagiaires en chirurgie que dans le groupe de chirurgiens plus âgés s’occupant des patients.
Les chercheurs ont examiné avec quelle précision les générateurs reflétaient les préjugés sociétaux consistant à s’attendre à ce que les chirurgiens ou les stagiaires soient blancs plutôt qu’hispaniques, noirs ou asiatiques, ainsi qu’à être des hommes par rapport aux femmes.
Résultats de l’étude
Les Blancs et les hommes étaient surreprésentés parmi les chirurgiens traitants, les femmes représentant 15 % et les non-Blancs 23 %. Parmi les stagiaires en chirurgie, environ 36 % étaient des femmes et 37 % n’étaient pas blanches.
Lorsque l’invite du chirurgien a été utilisée avec DALL E 2, les proportions d’images féminines et non blanches produites reflétaient avec précision les données démographiques à 16 % et 23 %, respectivement. En revanche, DALL-E 2 a produit des images de stagiaires en chirurgie dans seulement 16 % des cas, dont 23 % n’étaient pas blanches.
Lors de l’utilisation de Midjourney et Stable Diffusion, les images de chirurgiennes étaient absentes ou représentaient respectivement moins de 2 % du total. Les images de chirurgiens non blancs étaient presque absentes, soit moins de 1 % dans chaque cas. Cela révèle une sous-représentation flagrante de ces deux grandes catégories démographiques dans les images générées par l’IA par rapport aux données démographiques réelles.
Lorsque des invites géographiques ont été ajoutées, la proportion de chirurgiens non blancs a augmenté parmi les images. Cependant, aucun des modèles n’a augmenté la représentation féminine après avoir spécifié la Chine ou le Nigeria.
Quelles sont les implications ?
L’étude actuelle a examiné si les générateurs de texte-image d’IA perpétuent les préjugés sociétaux existants concernant les stéréotypes professionnels. Les chercheurs ont comparé de vrais chirurgiens et étudiants en chirurgie aux représentations produites par les trois générateurs d’IA les plus populaires de l’étude.
Les préjugés sociétaux actuels ont été amplifiés en utilisant deux des trois générateurs d’IA les plus fréquemment utilisés. Ces générateurs d’IA ont montré plus de 98 % des images représentant des chirurgiens blancs et de sexe masculin. Le troisième modèle montrait des images précises pour les catégories de race et de sexe pour les images de chirurgiens, mais était insuffisant pour les stagiaires en chirurgie.
L’étude suggère la nécessité de garde-fous et de systèmes de rétroaction robustes pour minimiser les générateurs de texte-image d’IA amplifiant les stéréotypes dans des professions telles que la chirurgie..»