Alors que les outils alimentés par l'intelligence artificielle font de plus en plus leur chemin dans les soins de santé, les dernières recherches de Lucia Vitale, doctorante au département politique de l'UC Santa Cruz, font le point sur le paysage actuel des promesses et des inquiétudes.
Les partisans de l’IA envisagent que la technologie aide à gérer les chaînes d’approvisionnement des soins de santé, à surveiller les épidémies, à établir des diagnostics, à interpréter les images médicales et même à réduire les écarts d’équité dans l’accès aux soins en compensant les pénuries de personnel de santé. Mais d’autres tirent la sonnette d’alarme sur des questions telles que le droit à la vie privée, les préjugés raciaux et sexistes dans les modèles, le manque de transparence dans les processus décisionnels de l’IA qui pourraient conduire à des erreurs de soins aux patients, et même la possibilité pour les compagnies d’assurance d’utiliser l’IA pour discriminer les gens. avec une mauvaise santé.
Les types d’impacts que ces outils auront en fin de compte dépendront de la manière dont ils sont développés et déployés. Dans un article pour le journal Sciences sociales et médecineVitale et sa coauteure, Leah Shipton, doctorante à l'Université de la Colombie-Britannique, ont mené une analyse documentaire approfondie de la trajectoire actuelle de l'IA dans les soins de santé. Ils soutiennent que l’IA est en passe de devenir la dernière d’une longue série d’avancées technologiques qui, en fin de compte, ont un impact limité parce qu’elles s’engagent dans une « politique d’évitement » qui détourne l’attention, voire aggrave, des problèmes structurels plus fondamentaux de la santé publique mondiale. .
Par exemple, comme de nombreuses interventions technologiques du passé, la plupart des IA développées pour la santé se concentrent sur le traitement des maladies, tout en ignorant les déterminants sous-jacents de la santé. Vitale et Shipton craignent que le battage médiatique autour des outils d’IA non éprouvés ne détourne l’attention du besoin urgent de mettre en œuvre des interventions holistiques à faible technologie mais fondées sur des preuves, comme les agents de santé communautaires et les programmes de réduction des risques.
Nous avons déjà vu ce modèle auparavant. Nous continuons d'investir dans ces solutions technologiques miracles qui ne parviennent pas à réellement changer la santé publique parce qu'elles ne s'attaquent pas aux déterminants politiques et sociaux profondément enracinés de la santé, qui peuvent aller de choses comme les priorités politiques en matière de santé à l'accès à des aliments sains et à un endroit sûr. vivre. »
Lucia Vitale, Département de politique, Université de Californie – Santa Cruz
L’IA est également susceptible de perpétuer ou d’exacerber les schémas de préjudice et d’exploitation historiquement courants dans l’industrie biopharmaceutique. Un exemple abordé dans le document est que la propriété et le profit de l’IA sont actuellement concentrés dans les pays à revenu élevé, tandis que les pays à revenu faible ou intermédiaire avec des réglementations faibles peuvent être ciblés pour l’extraction de données ou l’expérimentation du déploiement de nouvelles technologies potentiellement risquées. technologies.
Le document prédit également que les approches réglementaires laxistes en matière d’IA continueront à donner la priorité aux droits de propriété intellectuelle et aux incitations industrielles plutôt qu’à un accès public équitable et abordable aux nouveaux traitements et outils. Et comme les motivations des entreprises en matière de profit continueront à guider le développement de produits, les sociétés d'IA suivront probablement également la tendance à long terme du secteur des technologies de la santé, qui consiste à négliger les besoins des personnes les plus pauvres du monde lorsqu'elles décident des domaines sur lesquels cibler les investissements dans la recherche et le développement.
Cependant, Vitale et Shipton ont identifié un point positif. L’IA pourrait potentiellement briser le moule et créer un impact plus profond en se concentrant sur l’amélioration du système de santé lui-même. L’IA pourrait être utilisée pour allouer les ressources plus efficacement entre les hôpitaux et pour un tri plus efficace des patients. Les outils de diagnostic pourraient améliorer l’efficacité et élargir les capacités des médecins généralistes des petits hôpitaux ruraux dépourvus de spécialistes. L’IA pourrait même fournir des services de santé de base mais essentiels pour combler les lacunes en matière de main-d’œuvre et de spécialisation, comme la fourniture de contrôles prénatals dans les zones où le désert de soins de maternité augmente.
Toutes ces applications pourraient potentiellement aboutir à un accès plus équitable aux soins. Mais ce résultat est loin d’être garanti. Selon la manière et l’endroit où ces technologies sont déployées, elles pourraient soit combler avec succès les lacunes des soins là où il existe de véritables pénuries de personnel de santé, soit conduire au chômage ou à un travail précaire pour les travailleurs de la santé existants. Et à moins que les causes sous-jacentes de la pénurie de personnel de santé ne soient traitées, y compris l'épuisement professionnel et la « fuite des cerveaux » vers les pays à revenu élevé, les outils d'IA pourraient finir par fournir un diagnostic ou une détection d'épidémie qui ne sont finalement pas utiles parce que les communautés n'ont toujours pas la capacité de répondre.
Pour maximiser les bénéfices et minimiser les préjudices, Vitale et Shipton soutiennent qu’une réglementation doit être mise en place avant que l’IA ne s’étende davantage au secteur de la santé. Des garanties appropriées pourraient contribuer à détourner l’IA des schémas néfastes du passé et à tracer une nouvelle voie garantissant que les projets futurs s’aligneront sur l’intérêt public.
« Avec l'IA, nous avons l'opportunité de corriger notre façon de gouverner les nouvelles technologies », a déclaré Shipton. « Mais nous avons besoin d'un programme et d'un cadre clairs pour la gouvernance éthique des technologies de santé de l'IA par le biais de l'Organisation mondiale de la santé, de grands partenariats public-privé qui financent et mettent en œuvre des interventions de santé, et de pays comme les États-Unis, l'Inde et la Chine qui hébergent des entreprises technologiques. Pour que cela soit mis en œuvre, il faudra un plaidoyer continu de la société civile. »
