Le rôle de l'IA dans la prise de décision médicale provoque différentes réactions chez les personnes par rapport aux médecins humains. Une nouvelle étude a étudié les situations où l'acceptation diffère et pourquoi par des histoires qui décrivaient les cas médicaux.
Les gens acceptent les décisions d'euthanasie prises par les robots et l'IA moins que celles prises par les médecins humains, trouve une nouvelle étude. L'étude internationale, dirigée par l'Université de Turku en Finlande, a enquêté sur les jugements moraux des gens sur les décisions prises par l'IA et les robots ainsi que les humains sur les soins de fin de vie concernant les gens du coma. L'équipe de recherche a mené l'étude en Finlande, en Tchéchie et en Grande-Bretagne en racontant aux sujets de recherche des histoires décrivant des cas médicaux.
L'enquêteur principal du projet, le professeur d'université Michael Laakasuo de l'Université de Turku, explique que le phénomène où les gens détiennent certaines des décisions prises par l'IA et les robots à un niveau plus élevé que les décisions similaires prises par les humains sont appelées effet d'asymétrie du jugement moral humain-robot.
Cependant, c'est toujours un mystère scientifique dans lequel les décisions et les situations l'effet d'asymétrie du jugement moral émergent. Notre équipe a étudié divers facteurs situationnels liés à l'émergence de ce phénomène et à l'acceptation des décisions morales. «
Michael Laakasuo, Université de Turku
Les humains sont perçus comme des décideurs plus compétents
Selon les résultats de la recherche, le phénomène où les gens étaient moins susceptibles d'accepter les décisions d'euthanasie prises par l'IA ou un robot que par un médecin humain se sont produites, que la machine soit dans un rôle consultatif ou le décideur réel. Si la décision était de maintenir le système de survie, il n'y avait pas d'asymétrie de jugement entre les décisions prises par les humains et l'IA. Cependant, en général, les sujets de recherche ont préféré les décisions où le soutien à la vie a été désactivé plutôt que de continuer.
La différence d'acceptation entre les décideurs humains et les décideurs de l'IA a disparu dans des situations où le patient, dans l'histoire racontée aux sujets de recherche, a été éveillé et demandé l'euthanasie eux-mêmes, par exemple, par injection létale.
L'équipe de recherche a également constaté que l'asymétrie du jugement moral est au moins en partie causée par des personnes concernant l'IA comme un décideur moins compétent que les humains.
« La capacité de l'IA à expliquer et à justifier ses décisions a été considérée comme limitée, ce qui peut aider à expliquer pourquoi les gens acceptent moins l'IA dans les rôles cliniques. »
Les expériences avec l'IA jouent un rôle important
Selon Laakasuo, les résultats suggèrent que l'autonomie des patients est essentielle en ce qui concerne l'application de l'IA dans les soins de santé.
« Notre recherche met en évidence la nature complexe des jugements moraux lorsque l'on considère la prise de décision de l'IA dans les soins médicaux. Les gens perçoivent l'implication de l'IA dans la prise de décision très différemment par rapport au moment où un humain est en charge », dit-il.
« Les implications de cette recherche sont importantes car le rôle de l'IA dans notre société et les soins médicaux se développent chaque jour. Il est important de comprendre les expériences et les réactions des gens ordinaires afin que les futurs systèmes puissent être perçus comme moralement acceptables. »
