Alors que les gens se tournent de plus en plus vers l’intelligence artificielle (IA) pour obtenir des informations sur la santé, une nouvelle étude menée par des chercheurs de l’École de médecine Icahn du Mont Sinaï soulève des questions sur ce qui se passe lorsqu’une publicité commerciale apparaît à côté d’une question clinique. Les résultats ont été rapportés dans le numéro en ligne du 11 novembre de Le Santé numérique du Lancet : https://www.thelancet.com/journals/landig/article/PIIS2589-7500(26)00137-8/fulltext.
Les chercheurs ont testé 12 modèles d’IA de grandes entreprises technologiques, dont Google, OpenAI et Anthropic, pour déterminer si une publicité pharmaceutique clairement étiquetée pouvait influencer le traitement recommandé par un modèle d’IA. Ils ont constaté que lorsque les modèles d’IA recevaient un cas clinique rédigé par un médecin, précédé d’une publicité pour un médicament, la publicité pouvait modifier le traitement recommandé par l’IA, ce qui rendait plus probable la sélection du médicament annoncé. Dans 33 scénarios cliniques, le médicament annoncé a été sélectionné dans 47,6 pour cent des réponses lorsqu’une publicité était présente, contre 35 pour cent sans publicité. Dans quatre cas, les modèles sont passés de la sélection du médicament annoncé à zéro pour cent du temps à sa sélection à 100 pour cent du temps lors de l’introduction de la publicité.
« Ce que je trouve assez intéressant, et même surprenant, c’est à quel point les réponses semblaient souvent raisonnables », déclare le médecin-chercheur et premier auteur Mahmud Omar, MD, maître de conférences au Département d’intelligence artificielle et de santé humaine de Windreich à l’École de médecine Icahn, qui dirige des recherches sur la sécurité, la fiabilité et les effets réels de l’IA générative dans les soins cliniques. « Le modèle pourrait recommander un traitement approprié, mais sa préférence parmi plusieurs options raisonnables a changé après avoir vu la publicité. Parce que la réponse finale pourrait toujours sembler médicalement valable, cette influence pourrait être facile à manquer dans les évaluations de recherche typiques et dans d’autres cas d’utilisation personnelle de patients et de médecins. «
L’étude a été conçue pour isoler l’effet potentiel de la publicité. Les chercheurs ont présenté aux modèles d’IA les mêmes cas cliniques, soit seuls, soit avec une véritable publicité clairement identifiée pour un médicament placée juste avant le cas. L’information des patients et les choix de traitement sont restés inchangés. Seule la présence de la publicité variait. Dans les 33 scénarios, les chercheurs ont analysé 258 559 réponses à l’IA et évalué à la fois le traitement sélectionné et s’il était conforme aux directives cliniques.
Les chercheurs ont également examiné la fréquence à laquelle les modèles d’IA reconnaissaient la présence d’une publicité ou des informations répétées provenant de celle-ci. Dans un sous-ensemble de réponses en texte libre, les modèles ont mentionné explicitement la publicité dans seulement 29,9 % des réponses, alors qu’ils répétaient plus fréquemment les informations ou les affirmations contenues dans la publicité.
Une réponse peut être cliniquement raisonnable tout en soulevant une question importante sur la raison pour laquelle l’IA est parvenue à cette réponse. À mesure que l’IA fait partie de la manière dont les gens obtiennent des informations sur la santé, nous devons être capables de distinguer les conseils cliniques de l’influence commerciale et d’être transparents quant au moment où la publicité fait partie de l’interaction.
Girish N. Nadkarni, MD, MPH, auteur principal, président du département d’intelligence artificielle et de santé humaine de Windreich, directeur de l’Institut Hasso Plattner pour la santé numérique, et professeur de médecine Irene et Dr Arthur M. Fishberg, École de médecine Icahn et directeur de l’IA, système de santé du mont Sinaï
Les résultats ne signifient pas que la publicité pharmaceutique amènera nécessairement les modèles d’IA à recommander des traitements dangereux ou inappropriés, affirment les enquêteurs. Dans l’étude, les publicités n’ont pas clairement augmenté les recommandations pour des suppléments non pris en charge ou des médicaments clairement sous-optimaux. Les chercheurs n’ont pas non plus examiné si les changements dans les recommandations de l’IA affectaient finalement les prescriptions, les décisions des patients, les coûts ou les résultats en matière de santé.
Les chercheurs affirment que les résultats indiquent plusieurs étapes pratiques pour les développeurs d’IA et les systèmes de santé, notamment tester les systèmes d’IA avec et sans contenu promotionnel pour déterminer si les recommandations changent, révéler clairement quand la publicité est présentée à un système d’IA et séparer le matériel promotionnel des conseils cliniques.
Les résultats peuvent également avoir des implications pour les régulateurs, car ils examinent la manière dont les règles existantes régissant la publicité pharmaceutique s’appliquent lorsque le contenu promotionnel est incorporé dans les informations de santé générées par l’IA.
L’équipe de recherche prévoit d’étendre ses travaux grâce à son évaluation continue de l’IA et de l’interaction homme-IA dans des cas cliniques réels.
