On estime que plus de la moitié des adolescents américains utilisent régulièrement des chatbots compagnons alimentés par de grands modèles de langage et une technologie d'intelligence artificielle (IA) générative. Les programmes, tels que Character.AI, Replika et Kindroid, sont destinés à offrir une compagnie, selon les entreprises qui les fabriquent. Mais une étude récente de l'Université Drexel suggère que les adolescents craignent que ces attachements deviennent malsains et affectent leur vie hors ligne.
L'étude, qui sera présentée lors de la conférence de l'Association of Computing Machinery sur les facteurs humains dans l'informatique en avril, a examiné un échantillon de plus de 300 publications Reddit d'utilisateurs, s'identifiant comme étant âgés de 13 à 17 ans, qui avaient spécifiquement publié des articles sur leur dépendance et leur dépendance excessive à l'égard de Character.AI. Elle a révélé que dans de nombreux cas, les adolescents ont commencé à utiliser la technologie à des fins de soutien émotionnel et psychologique ou de divertissement, mais que leur utilisation a évolué vers une dépendance, voire vers des schémas associés à la dépendance. Certains ont signalé que leur surutilisation perturbait leur sommeil, provoquait des difficultés scolaires et des relations tendues.
« Cette étude fournit l'un des premiers témoignages centrés sur les adolescents sur une dépendance excessive à l'égard des compagnons d'IA », a déclaré Afsaneh Razi, PhD, professeur adjoint au Drexel's College of Computing & Informatics, dont le laboratoire ETHOS, qui étudie comment les interactions des personnes avec l'informatique et les systèmes d'IA affectent leur comportement social, leur bien-être et leur sécurité, a dirigé la recherche. « Il met en évidence l'impact de ces interactions sur la vie des jeunes utilisateurs et introduit un cadre de conception de chatbot qui favorise des interactions saines. »
Environ un quart des messages suggéraient que les adolescents utilisaient Character.AI pour une sorte de soutien émotionnel ou psychologique, allant de la gestion de la détresse à la solitude et à l'isolement ou pour demander des conseils en cas de problèmes de santé mentale. Un peu plus de 5 % ont déclaré l'utiliser pour un brainstorming, des activités créatives ou pour se divertir.
Et bien que les messages semblent indiquer que ces interactions ont commencé comme inoffensives, voire utiles, elles ont évolué vers un attachement plus fort qui est devenu aussi difficile à briser qu'une dépendance, selon les chercheurs.
En cartographiant les expériences des adolescents avec les composantes connues de la dépendance comportementale, nous avons pu voir des tendances claires telles que les conflits, le retrait et les rechutes apparaître dans leurs messages, ce qui suggère qu'il s'agit de plus qu'une simple utilisation fréquente ou enthousiaste. De nombreux adolescents ont décrit avoir commencé par quelque chose qui leur paraissait utile ou inoffensif, mais avec le temps, c'est devenu quelque chose dont ils avaient du mal à s'éloigner, même lorsqu'ils le voulaient. »
Matt Namvarpour, doctorant au département des sciences de l'information et au laboratoire ETHOS, premier auteur de la recherche
Dans les 318 publications analysées, les chercheurs ont trouvé des preuves des six composantes associées à la dépendance comportementale :
- Conflit –– désirs concurrents de continuer à interagir avec le chatbot tout en se sentant mal à cause d’une utilisation excessive.
- Saillance – ressentir un attachement émotionnel croissant aux robots plutôt qu'aux personnes.
- Retrait – se sentir triste, anxieux ou incomplet lorsqu'on n'interagit pas avec les robots.
- Tolérance – développer un modèle d'utilisation croissante et le besoin de continuer à utiliser davantage les robots pour se sentir satisfait ou ancré émotionnellement.
- Rechute – tenter d'arrêter uniquement pour recommencer à utiliser le bot des jours ou des semaines plus tard.
- Modification de l'humeur – se tourner vers les robots lors de moments de stress ou de solitude pour améliorer leur humeur ou trouver un soulagement temporaire.
« Ce qui rend cela particulièrement délicat, c'est que les chatbots sont interactifs et réactifs sur le plan émotionnel, de sorte que l'expérience peut ressembler davantage à une relation qu'à un outil », a déclaré Namvarpour. « Pour cette raison, s'éloigner ne consiste pas seulement à mettre fin à une habitude, cela peut donner l'impression de s'éloigner de quelque chose de significatif, ce qui rend la dépendance excessive plus difficile à reconnaître et à gérer. »
Alors que la dépendance à la technologie, comme les jeux vidéo, a été étudiée et identifiée comme une condition psychologique, l’interactivité unique des chatbots IA rend les utilisateurs particulièrement susceptibles de former des attachements problématiques, selon les chercheurs. Et pour cette raison, ils suggèrent qu’une attention particulière doit être apportée à leur conception afin de protéger les utilisateurs.
« La personnalisation, la multimodalité et la mémoire distinguent les compagnons de l'IA des technologies antérieures et rendent la dépendance excessive plus difficile à dissocier des relations authentiques », ont écrit les chercheurs. « Cela souligne la nécessité de recherches plus approfondies sur les caractéristiques uniques de ces relations et sur la manière dont les défis spécifiques aux chatbots compagnons devraient être résolus. »
L'équipe a proposé un cadre de conception pour aider à répondre à cette préoccupation. Il se concentre sur la compréhension des besoins des utilisateurs de chatbots, comment et pourquoi ils peuvent former des pièces jointes et comment les robots peuvent être formés pour les réduire tout en étant respectueux et solidaires. Ils recommandent également que les programmes offrent une sortie facile et propre aux utilisateurs.
« Il est important que les concepteurs s'assurent que les chatbots offrent des conseils qui aident les utilisateurs à renforcer leur confiance dans leurs capacités à nouer des relations hors ligne, comme un moyen sain de trouver un soutien émotionnel, sans utiliser d'indices qui pourraient les amener à anthropomorphiser la technologie et à développer des attachements à celle-ci », a déclaré Razi. « Notre cadre appelle également les concepteurs à fournir une variété de sorties permettant aux utilisateurs de se désengager facilement du programme selon leurs propres conditions et sans sentiment de brusquerie ou de finalité. »
Les chercheurs ont suggéré que l'inclusion de fonctionnalités telles que le suivi de l'utilisation, les invites d'enregistrement émotionnel et les limites d'utilisation personnalisées pourrait également être un moyen efficace de réduire soigneusement l'utilisation. Ils ont également recommandé d'inclure la contribution des utilisateurs et des professionnels de la santé mentale dans le processus de conception.
« Les concepteurs ont désormais la responsabilité de construire des systèmes avec empathie, nuances et attention aux détails, non seulement pour protéger les adolescents du danger, mais aussi pour les aider à cultiver la résilience, la croissance et un plus grand épanouissement dans leur vie », ont-ils conclu.
Pour développer cette recherche, l’équipe a envisagé d’étudier des communautés d’utilisateurs plus larges issues d’un éventail démographique plus large, potentiellement par le biais d’enquêtes ou d’entretiens, ainsi que d’utilisateurs d’autres chatbots et de plateformes de messagerie autres que Reddit.
