Dans un article récent publié dans la revue Santé mondiale BMJ, les chercheurs ont mis en évidence les menaces résultant d’un abus délibéré, involontaire ou inconsidéré de l’intelligence artificielle (IA) et de l’intelligence artificielle générale (AGI), une forme d’IA qui s’améliore d’elle-même. En outre, ils ont discuté des graves conséquences de ne pas anticiper et de ne pas s’adapter à la transformation de la société induite par l’IA.
Étude : Menaces de l’intelligence artificielle pour la santé humaine et l’existence humaine. Crédit d’image : métamorworks / Shutterstock
Les chercheurs ont décrit trois manières dont l’IA pourrait menacer l’existence humaine.
Premièrement, l’IA pourrait augmenter les possibilités de manipulation des personnes. En Chine et dans 75 autres pays, le gouvernement étend la surveillance basée sur l’IA. L’IA nettoie, organise et analyse rapidement d’énormes quantités de données personnelles, y compris le contenu vidéo capturé par des caméras déployées dans des lieux publics. Bien que cela puisse aider à contrer les actes de terrorisme, une bonne utilisation, à la baisse, ces données pourraient contribuer à la montée de la polarisation et des opinions extrémistes.
L’IA pourrait aider à créer une énorme et puissante infrastructure de marketing personnalisé pour manipuler le comportement des consommateurs et générer des revenus commerciaux pour les médias sociaux. Des preuves expérimentales suggèrent que lors de l’élection présidentielle américaine de 2016, les partis politiques ont utilisé des outils d’IA pour manipuler les convictions politiques et le comportement des électeurs.
Le système de crédit social chinois refuse automatiquement aux gens l’accès aux services bancaires et d’assurance, impose des amendes et les empêche de voyager et d’envoyer leurs enfants à l’école sur la base de l’analyse de leurs transactions financières, de leurs dossiers de police et de leurs relations sociales pour produire des évaluations du comportement individuel.
L’IA a de nombreuses applications dans les systèmes militaires et de défense, ce qui soulève une deuxième menace en raison de l’IA, les progrès dans le domaine des systèmes d’armes létaux autonomes (LAWS). Ces armes autonomes pourraient localiser, reconnaître visuellement et «viser» des cibles humaines sans aucun contrôle des humains sur elles, ce qui en fait des armes de destruction massive nouvelles et mortelles.
Des éléments perturbateurs, comme les organisations terroristes, pourraient produire en masse à moindre coût des LAWS, qui se présentent sous toutes les tailles et formes, et les configurer pour tuer à grande échelle. Par exemple, il est possible d’équiper des millions de drones quadricoptères, de petits appareils mobiles, d’explosifs, d’identification visuelle et de capacités de navigation autonomes, et programmés pour tuer sans surveillance humaine.
Troisièmement, le déploiement à grande échelle d’outils basés sur la technologie de l’IA pourrait entraîner la perte de dizaines à des centaines d’emplois au cours des prochaines décennies. Cependant, le déploiement généralisé des outils d’IA dépendra en grande partie des décisions politiques des gouvernements et de la société et du rythme de développement de l’IA, de la robotique et d’autres technologies complémentaires.
Néanmoins, l’impact de l’automatisation basée sur l’IA serait pire pour les personnes occupant des emplois peu qualifiés dans les pays à revenu faible et intermédiaire (PRFI). À terme, cela n’épargnerait pas les segments supérieurs de l’échelle des compétences de la main-d’œuvre mondiale, y compris ceux qui habitent les pays à revenu élevé.
Pendant de nombreuses décennies, les humains ont imaginé et recherché des machines plus intelligentes, conscientes et puissantes que nous. Cela a conduit au développement d’AGI, des machines théoriques basées sur l’IA qui apprennent et améliorent intuitivement leur code et commencent à développer leurs propres objectifs.
Après les avoir connectés au monde réel, c’est-à-dire via des robots, des armes, des véhicules ou des systèmes numériques, il devient difficile d’envisager ou de prédire avec certitude les effets et les résultats de l’IAG. Pourtant, délibérément ou non, ces machines pourraient nuire et subjuguer les humains. En conséquence, dans une récente enquête menée auprès des membres de la société de l’IA, 18 % des participants ont exprimé leur inquiétude quant au fait que le développement de l’IAG pourrait être catastrophique sur le plan existentiel.
En outre, les auteurs ont souligné que si l’IA a le potentiel de révolutionner les soins de santé en améliorant les diagnostics et en aidant à développer de nouveaux traitements, certaines de ses applications pourraient être préjudiciables. Par exemple, la plupart des systèmes d’IA sont formés sur des ensembles de données où les populations sujettes à discrimination sont sous-représentées.
En raison de cet ensemble de données incomplet et biaisé, un oxymètre de pouls piloté par l’IA a surestimé les niveaux d’oxygène dans le sang chez les patients à la peau plus foncée. De même, les systèmes de reconnaissance faciale classent mal le sexe des sujets à la peau plus foncée.
conclusion
La communauté médicale et de la santé publique devrait sonner l’alarme sur les risques et les menaces posés par l’IA, de la même manière que l’International Physicians for the Prevention of Nuclear War a présenté des arguments fondés sur des preuves concernant la menace de guerre nucléaire.
Une autre intervention possible pourrait consister à assurer des freins et contrepoids adéquats pour l’IA, ce qui nécessite le renforcement des organisations d’intérêt public et de la démocratie. Ensuite, l’IA remplirait sa promesse de bénéficier à l’humanité et à la société.
Plus important encore, un plaidoyer fondé sur des preuves est nécessaire pour une refonte radicale des politiques sociales et économiques au cours des prochaines décennies. Nous devrions plutôt commencer à préparer nos générations futures à vivre dans un monde où le travail humain ne serait plus nécessaire pour la production de biens et de services, car l’IA aurait radicalement changé le scénario du travail et de l’emploi.
