Alors que l’utilisation de l’intelligence artificielle (IA) continue de croître dans presque tous les secteurs, il est important d’établir des garde-fous pour garantir que la technologie est utilisée de manière éthique et responsable. Cela est particulièrement vrai dans le domaine de la médecine, où les erreurs peuvent être une question de vie ou de mort et où les informations des patients doivent être protégées.
Un groupe de médecins, de chercheurs et de représentants de l'industrie de l'AVC ont discuté de l'utilisation actuelle et future de l'IA dans la conception d'essais cliniques sur l'AVC lors de la table ronde de l'industrie académique sur le traitement de l'AVC le 28 mars. Dirigés par Joseph Broderick, MD de l'Université de Cincinnati, les chercheurs ont publié un article dans la revue. Accident vasculaire cérébral 30 septembre résumant la discussion du groupe.
Les médecins spécialistes de l’AVC utilisent déjà l’IA pour faciliter la prise de décision clinique, en particulier lors de l’analyse de l’imagerie cérébrale et vasculaire. Il alerte également les médecins sur les participants potentiels aux essais cliniques.
Mais avec ces utilisations élargies de l'IA et d'autres, Broderick et ses collègues ont souligné l'importance de concevoir des systèmes « humains dans la boucle » qui nécessitent une contribution humaine et une expertise dans la formation et l'utilisation des modèles d'IA.
Pensez à l’IA comme à un tout-petit qui apprend à faire du vélo. Faire du vélo est un exploit incroyable, mais il y a beaucoup de chutes (erreurs) dans l'apprentissage. Il est utile d'avoir un expert, et même des roues d'entraînement, pour aider à soutenir le vélo pendant que l'enfant apprend. Finalement, les enfants apprennent très bien à faire du vélo. »
Joseph Broderick, MD, professeur à la faculté de médecine de l'UC, conseiller principal à l'UC Gardner Neuroscience Institute et directeur du NIH StrokeNet National Coordinating Center
Broderick et ses collègues ont comparé l'utilisation de l'apprentissage automatique (ML) avec l'IA générative dans les applications liées aux accidents vasculaires cérébraux.
L'apprentissage automatique entraîne des modèles d'IA sur un ensemble de données structurées et organisées par l'homme pour classer ou prédire les résultats connus sous le nom de « vérité terrain ». Bien qu’il faille davantage d’efforts humains pour entraîner ces modèles avec de grands ensembles de données, la plupart des apprentissages automatiques peuvent être réalisés efficacement avec une puissance de calcul standard.
« Un avantage majeur de ces modèles ML est que leurs méthodes sont généralement plus interprétables et leur processus de prise de décision plus transparent, de sorte qu'ils peuvent être compris et tracés, ce qui est essentiel pour la validation médicale et la plausibilité biologique », ont écrit les coauteurs.
L’IA générative est formée sur des corpus de textes massifs et non étiquetés provenant d’Internet, de livres et de périodiques avant d’être affinée sur des ensembles de données plus spécialisés. Cela signifie généralement moins d’intervention humaine dans la formation du modèle, mais cela nécessite une puissance de calcul et de l’électricité massives.
« Les modèles (d'IA générative) eux-mêmes comportent des milliards, voire des milliards de paramètres, mais ils fonctionnent comme une » boîte noire « , ce qui rend difficile de comprendre pleinement comment et pourquoi un résultat spécifique a été généré », ont déclaré les coauteurs. « L'explicabilité des grands modèles de langage est un domaine de recherche actif. »
Qu’ils utilisent l’apprentissage automatique ou des modèles génératifs, les chercheurs sur l’AVC devront être proactifs pour s’assurer que les ensembles de données sont robustes et tiennent compte des données provenant de différents fabricants de scanners, institutions et patients afin d’améliorer la généralisabilité.
« Si nous utilisons des données incorrectes ou limitées et que les experts humains ne corrigent pas les mauvaises données ou classifications, l'IA peut produire des recommandations inexactes et erronées », a déclaré Broderick. « Ma plus grande préoccupation est lorsque l'IA est formée sur de mauvaises données et donne des réponses qui peuvent nuire. »
Les chercheurs devront également développer des protocoles et des garanties stricts pour conserver les informations sur les patients utilisées pour former les modèles privées et conformes à la HIPAA. Cela pourrait ressembler à des tiers indépendants tels que l'American Heart Association collectant de manière centralisée les données anonymisées des patients avant qu'elles ne soient transmises aux modèles d'IA, ou à des modèles de formation avec des données uniquement de chaque institution individuelle avant de partager plus largement les paramètres appris.
« La protection de la vie privée des patients représente un défi majeur pour l'utilisation de données cliniques pour la formation de l'IA dans les soins de santé, et le partage de données, même anonymisées, entre pays est rendu plus difficile par les différentes lois concernant le partage de données dans divers pays », ont écrit les coauteurs. « Les nouvelles méthodes de développement de modèles promettent de répondre à certains de ces problèmes de confidentialité. »
Après que des modèles robustes d'IA sur l'AVC aient été développés et validés par des humains, Broderick a déclaré que les applications potentielles incluent une meilleure identification des participants potentiels aux essais, la communication des conceptions d'essais aux patients dans un langage profane, la traduction des informations sur les essais dans différentes langues pour les patients non anglophones et l'aide à identifier le meilleur traitement pour chaque patient individuel.
« Nous parlons de médecine de précision depuis un certain temps, mais l'IA constitue une avancée majeure pour y parvenir », a-t-il déclaré.
En plus de l’IA, les auteurs ont discuté de nouvelles conceptions d’essais cliniques, telles que les essais sur plateforme, qui peuvent tester plus efficacement plusieurs questions de recherche à la fois et ajouter de nouvelles questions à mesure que des questions plus anciennes reçoivent une réponse. Un autre objectif majeur à l'avenir concerne les essais pragmatiques, qui visent à évaluer l'efficacité des traitements lorsqu'ils sont mis en œuvre dans le cadre de soins cliniques de routine plutôt que dans des conditions idéalisées.
En comparant les traitements existants, en intégrant les procédures d'essai dans les flux de travail cliniques normaux et en utilisant les données du dossier de santé électronique, les chercheurs et les organisations peuvent réduire les coûts associés à ces types d'essais pragmatiques et simplifier leur infrastructure. Nous espérons que les conceptions pragmatiques augmenteront les chances qu’un essai soit réalisé avec succès, dans les délais et à moindre coût.
Enfin, la communauté de recherche sur l’AVC a besoin d’un engagement accru de la communauté et des patients. Cela devrait inclure la contribution du personnel médical sur le terrain (ambulanciers, médecins des établissements de transfert et d'accueil et coordinateurs d'étude) qui recrute et traite les patients victimes d'un AVC dans les essais cliniques.
Des objectifs communs pour un essai doivent être établis afin de minimiser la charge de travail des patients et des chercheurs en matière de participation à l'essai, d'étendre la participation à l'essai aux milieux communautaires chaque fois que cela est possible et de diffuser rapidement les résultats des essais aux patients, aux cliniciens et au public.
« L'avenir est prometteur et nous ferons de grands progrès dans la recherche grâce à ces nouveaux outils », a déclaré Broderick. « Dans le même temps, le véritable test de notre époque actuelle, avec l'expansion rapide de l'IA dans notre vie quotidienne, consiste à reconnaître les données exactes et la vérité au milieu d'un océan de mots, d'images et de vidéos qui peuvent être fausses, nuisibles ou inexactes. »
« Le feu peut brûler une maison aussi facilement qu'il réchauffe le corps ou prépare un repas », a-t-il poursuivi. « L'IA est un incendie qui se propage rapidement, mais nous commençons tout juste à apprendre comment l'utiliser au mieux en toute sécurité et judicieusement. »
