Les applications pour smartphones qui utilisent l’intelligence artificielle (IA) pour détecter le cancer de la peau mettent en danger le public, dont beaucoup pensent que ces applications sont sûres à utiliser, ont averti les experts de la British Association of Dermatologists (BAD). Cette confiance, associée à l’incapacité de nombreuses applications de ce type à respecter les normes réglementaires appropriées, met les utilisateurs en danger.
Cet avertissement, du groupe de travail BAD AI, fait suite à une récente enquête YouGov qui a révélé que 41% des personnes au Royaume-Uni feraient confiance à une application pour smartphone qui utilise l’IA pour détecter les cancers de la peau potentiels.
Alors que de nombreuses personnes feraient confiance aux applications qui utilisent l’IA pour diagnostiquer le cancer de la peau, seulement 4 % des personnes interrogées ont déclaré qu’elles seraient « très confiantes » dans leur capacité à juger si les applications peuvent faire ce qu’elles prétendent. Plus de la moitié (52 %) ont déclaré qu’ils n’auraient pas confiance en leur capacité à en juger.
La position du groupe de travail BAD AI est que les preuves publiées à l’appui que l’IA peut être utilisée de manière sûre et efficace pour diagnostiquer le cancer de la peau sont faibles, ce qui expose les personnes à un risque d’erreur de diagnostic et de diagnostics de cancer manqués.
Toutes les applications qui utilisent l’IA pour le diagnostic ou le traitement médical sont classées comme «dispositifs médicaux» par des organismes de réglementation tels que l’Agence de réglementation des médicaments et des produits de santé (MHRA). Cela signifie qu’ils doivent subir un processus d’autorisation pour s’assurer qu’ils sont sûrs et fonctionnent avec la précision qu’ils prétendent atteindre.
Tous les dispositifs médicaux vendus au Royaume-Uni doivent être certifiés par l’une des trois marques : CE (Conformité Européenne), UKCA (UK Conformity Assessed) ou UKNI (UK Northern Ireland). Les marques de classe IIa et supérieures confirment qu’elles ont fait l’objet d’un processus d’autorisation officiel supervisé par les autorités sanitaires nationales ou internationales. La marque CE ou UKCA peut être appliquée par le fabricant pour les produits auto-certifiés de classe I, mais ces produits n’auront pas fait l’objet d’un examen indépendant.
La BAD a produit un guide pour aider le public à repérer les signes avant-coureurs potentiels lors de l’utilisation d’applications de diagnostic du cancer de la peau.
Les résultats de cette enquête sont préoccupants. Le public a la conviction compréhensible que ces applications de détection du cancer de la peau basées sur l’IA sont sûres à utiliser. La réalité est que beaucoup ne répondent pas aux normes requises par les organismes de réglementation pour diagnostiquer les conditions médicales. La MHRA a clairement indiqué que les seules applications pour smartphone appropriées à des fins de diagnostic sont les dispositifs médicaux de classe IIa ou supérieure et doivent être marquées CE, UKNI ou UKCA, démontrant qu’elles répondent aux exigences essentielles pertinentes de la réglementation sur les dispositifs médicaux.
Une partie du problème réside dans la facilité avec laquelle les applications de diagnostic d’IA qui ne répondent pas aux exigences réglementaires, produites par des développeurs du monde entier, avec des niveaux d’expertise et d’expérience très variables, peuvent être promues aux côtés d’applications parfaitement légitimes. Ces applications ont souvent une image de marque élégante, mais si vous regardez de plus près, il y a peu de preuves de leur efficacité.
Il n’est que trop courant de voir des applications qui prétendent pouvoir vérifier les taupes, qui suivent ensuite ces affirmations avec une clause de non-responsabilité selon laquelle l’application n’est pas un appareil de diagnostic. Ces sortes de demi-tours en petits caractères sur les fonctionnalités annoncées sont non seulement malhonnêtes, mais ne sont clairement pas autorisés par les régulateurs.
Alors que l’IA a un immense potentiel pour améliorer les soins de santé, il est important que l’IA soit déployée d’une manière sûre pour le public.
Dr Rubeta Matin, présidente du groupe de travail BAD
La BAD travaille en étroite collaboration avec les organismes de réglementation britanniques pour répondre à ces préoccupations.