Dans une étude récente publiée dans la revue Médecine numérique NPJ, les chercheurs ont examiné les lignes directrices actuelles sur la mise en œuvre éthique de l’intelligence artificielle (IA) dans les applications militaires et de santé. Leurs discussions se concentrent sur « l’IA générative », une nouvelle technologie visant à générer efficacement des informations, et sur les tentatives de surmonter les limitations actuellement répandues sur l’utilisation éthique de la technologie. Ils développent et proposent un nouveau système pour l’application éthique de l’IA à la recherche militaire et clinique, appelé « GREAT PLEA ».
Crédit d’image : CHEW/Shutterstock
L’IA et le besoin d’éthique
L’intelligence artificielle (IA) est la simulation des processus d’intelligence humaine par des machines, notamment des systèmes informatiques. Avec la puissance de calcul croissante du matériel moderne et l’adoption généralisée des appareils intelligents, l’accès et l’adoption de l’IA sont plus élevés que jamais. L’IA s’est infiltrée et a révolutionné presque tous les aspects de la société humaine moderne, les outils d’apprentissage automatique étant largement utilisés dans les publicités en ligne, la recherche scientifique et les simulations militaires.
Le secteur militaire bénéficie particulièrement des outils d’IA, les conflits en cours entre la Russie et l’Ukraine devant ouvrir la voie à des systèmes d’armes autonomes guidés par l’IA. Malheureusement, le développement d’outils d’IA s’accompagne rarement d’une évaluation éthique du système, les dommages collatéraux causés aux non-combattants ou aux forces amies n’étant pas pris en compte.
« Constatant l’émergence rapide de l’IA et de ses applications dans l’armée, le Département américain de la Défense (DOD) a divulgué les principes éthiques de l’IA en 2020. »
Ces principes comprennent cinq aspects essentiels de l’éthique centrée sur l’IA : la responsabilité, le traitement équitable, la traçabilité, la fiabilité et la gouvernance. L’Organisation du Traité de l’Atlantique Nord (OTAN) a adopté ces principes et les a élargis pour inclure la légalité, l’explicabilité et l’atténuation des préjugés. Ces introductions éthiques mettent en évidence la prudence que les principaux organismes militaires imposent aux outils d’IA et les mesures qu’ils prennent pour atténuer les résultats indésirables de l’IA.
Tout comme l’importance militaire des outils d’IA, ces technologies partagent des mérites et des précautions similaires dans le secteur médical. Les applications de l’IA en médecine impliquent généralement l’utilisation de ces technologies pour aider les cliniciens à diagnostiquer des maladies et à suggérer des traitements. Cependant, dans certains cas, l’IA a commencé à remplacer des départements entiers composés auparavant de personnel humain.
La figure illustre les points communs et les différences dans les principes éthiques entre les militaires et les soins de santé. Selon notre évaluation, la traçabilité, la fiabilité, la légalité, la responsabilité, la gouvernabilité et l’équité sont les principes éthiques que les deux domaines ont en commun. Dans le même temps, les principes éthiques, tels que l’empathie et la vie privée, sont mis en avant dans le domaine des soins de santé, tandis que les principes éthiques, tels que la sécurité nationale et la défense, le sont dans l’armée.
L’IA générative (GenAI) est un nouveau type d’intelligence artificielle (IA) conçu pour produire de nouveaux contenus. Il apprend des modèles à partir des données existantes et utilise ces connaissances pour générer de nouveaux résultats. Bien qu’ils se révèlent extrêmement utiles dans la découverte de médicaments, la synthèse de médicaments fondés sur des preuves et la conception d’équipements, ces modèles sont conçus pour optimiser les résultats souhaités « en noir et blanc » sans se soucier des dommages collatéraux potentiels (« gris »). Cela nécessite des restrictions éthiques sur les résultats de l’IA, ce qui, malheureusement, reste sous-discuté. En outre, l’utilisation malveillante des technologies développées par l’IA reste rarement envisagée, et encore moins discutée.
Récemment, l’Organisation mondiale de la santé (OMS) a publié un document sur les considérations éthiques liées à l’adoption médicale de l’IA. Cependant, ce document en est encore à ses balbutiements et de nombreux travaux, tant de recherche que de discussion, sont en cours avant que la confiance dans l’IA puisse lui permettre de reprendre des rôles autrefois humains.
Nous proposons les principes éthiques « GREAT PLEA » pour l’IA générative dans les soins de santé, à savoir gsurnabilité, R.la fiabilité, Equalité, UNresponsabilité, Tla raceabilité, P.rivalité, Lhorreur, Ela mpathie, et UNautonomie. Les principes éthiques GREAT PLEA démontrent notre grand plaidoyer pour que la communauté donne la priorité à ces principes éthiques lors de la mise en œuvre et de l’utilisation de l’IA générative dans des contextes de soins de santé pratiques.
Le scénario actuel
Étant donné que les discussions sur l’éthique de l’IA dans le domaine médical restent controversées et rarement abordées, la plupart des recherches sur la réduction des biais et l’optimisation des algorithmes se concentrent sur la sphère militaire. Des études et rapports, notamment de la RAND Corporation, ont visé à consolider les obligations juridiques (telles que les Conventions de Genève et le droit des conflits armés). [LOAC]) avec l’opinion publique pour élaborer des lignes directrices critiques pour le développement et l’utilisation éthiques des algorithmes d’IA, en particulier de l’IA générative.
Les recherches militaires en cours suggèrent que, même si l’IA peut être utilisée pour la plupart des applications militaires, l’IA n’est actuellement pas suffisamment avancée pour distinguer avec précision les combattants des civils, ce qui nécessite un Human-In-The-Loop (HITL) avant l’activation de systèmes d’armes mortels. . Simultanément, les principes susmentionnés énoncés par l’OTAN et le ministère de la Défense américain ont permis le développement d’algorithmes d’IA de pointe intégrant des considérations éthiques dans leur code (par exemple, faire preuve de prudence lorsque des dommages collatéraux sont le résultat potentiel d’un action proposée).
« Le succès de ces principes éthiques a également été démontré par leur capacité à adopter et à intégrer l’IA de manière réfléchie, en tenant compte des dangers potentiels de l’IA, que le Pentagone est déterminé à éviter. »
L’opinion publique américaine semble déroutante, certaines personnes considérant favorablement la prise de décision militaire autonome des systèmes d’IA, tandis que d’autres ne sont pas d’accord avec l’idée que l’IA lance une action de combat sans autorisation humaine.
« Ces résultats pourraient être dus au manque perçu de responsabilité, qui est considéré comme quelque chose qui pourrait totalement nier la valeur de l’IA, car un système entièrement autonome qui prend ses propres décisions éloigne les opérateurs militaires ou les cliniciens de la responsabilité des actions du système. »
Le GRAND PLAIDOYER pour l’IA en milieu clinique
Dans le présent travail, les auteurs développent et proposent un nouveau système pour l’utilisation éthique de l’IA générative dans les environnements médicaux. Baptisé « GREAT PLEA », le système résume et s’appuie sur des documents éthiques publiés par le DOD américain, l’American Medical Association (AMA), l’OMS et la Coalition for Health AI (CHAI). Les principes de l’OTAN ont notamment été exclus en raison de leur dépendance excessive à l’égard du respect par AI du droit militaire international, qui ne s’applique pas au contexte clinique. Pour le reste, les recommandations de l’OTAN sont presque identiques à celles prescrites par les principes du DOD américain.
Le GREAT PLEA est l’abréviation de Gouvernabilité, Fiabilité, Équité, Responsabilité et Traçabilité, qui sont tous communs aux domaines militaire et médical. La vie privée, la légalité, l’empathie et l’autonomie sont des préoccupations soulignées dans le spectre des soins de santé et forment un nouvel ensemble de considérations jusqu’à présent ignorées dans la littérature médicale.
Étant donné que l’IA générative nécessite des lignes directrices qui tiennent compte de la désinformation, des biais potentiels dans les données et des mesures d’évaluation généralisées, ces neuf principes constituent le fondement de l’existence et du fonctionnement des futurs systèmes d’IA avec une intervention humaine minimale.
Ces principes peuvent être appliqués grâce à une coopération avec les législateurs et à l’établissement de normes pour les développeurs et les utilisateurs, ainsi qu’à un partenariat avec des organismes directeurs reconnus du secteur de la santé, tels que l’OMS ou l’AMA.
