John McGing ne pouvait pas atteindre un humain. Cela pourrait être des affaires comme d'habitude dans cette économie, mais ce n'était pas des affaires; Il avait appelé la Social Security Administration, où les questions ne sont souvent pas génériques et les appelants ont tendance à être plus âgés, handicapés ou autrement des Américains vulnérables.
McGing, appelant au nom de son fils, avait une question dans les aides: comment empêcher les trop-payés que le gouvernement fédéral pourrait par la suite repousser. Son appel a été intercepté par un chatbot alimenté par l'intelligence artificielle.
Peu importe ce qu'il a dit, le bot a perroché des réponses en conserve aux questions génériques, et non la question obscure de McGing. « Si vous faites une touche, cela n'a rien fait », a-t-il déclaré. Finalement, le bot a « pénétré ou autre » et l'a amené à un agent.
C'était un incident petit mais révélateur. À l'insu de McGing, un ancien employé de la sécurité sociale du Maryland, il avait rencontré un outil technologique récemment introduit par l'agence. Les anciens responsables et observateurs de longue date de l'agence disent que l'administration Trump a déployé un produit qui a été testé mais jugé pas encore prêt pendant l'administration Biden.
« Avec la nouvelle administration, ils sont un peu comme, allons vite et le réparons plus tard, ce avec quoi je ne suis pas d'accord, car vous allez générer beaucoup de confusion », a déclaré Marcela Escobar-Alava, qui a été responsable de l'information de la sécurité sociale sous le président Joe Biden.
Quelque 74 millions de personnes reçoivent des prestations de sécurité sociale; 11 millions de ceux-ci reçoivent des paiements d'invalidité. Dans une enquête menée l'automne dernier, plus d'un tiers des bénéficiaires ont déclaré qu'ils ne seraient pas en mesure de se permettre des nécessités telles que la nourriture, les vêtements ou le logement sans lui. Et pourtant, l'agence a permis aux employés qui les servent: quelque 6 200 ont quitté l'agence, a déclaré à son commissaire les législateurs en juin, et des critiques au Congrès et ailleurs disent que cela a conduit à un service client plus pire, malgré les efforts de l'agence pour développer de nouvelles technologies.
Prenez le nouveau bot de téléphone. Au moins certains bénéficiaires ne l'aiment pas: la page Facebook de la sécurité sociale est, de temps en temps, marqué avec des critiques négatives du bot non coopératif, comme l'agence a déclaré en juillet que près de 41% des appels sont traités par le bot.
Les législateurs et les anciens employés de l'agence s'inquiètent de cela préfigure une sécurité sociale moins humaine, dans laquelle l'IA précipitée remplace les employés poussés et expérimentés.
Angoisses à travers les lignes de fête
La préoccupation concernant la direction de l'agence est bipartite. En mai, un groupe de républicains de la Chambre a écrit à la Social Security Administration exprimant son soutien à l'efficacité du gouvernement, mais mettant en garde que leurs électeurs avaient critiqué l'agence pour « un service client insuffisant » et suggérant que certaines mesures peuvent être « trop fardelles ».
Le commissaire de l'agence, Frank Bisignano, un ancien cadre de Wall Street, est un passionné de technologie. Il dispose d'une liste d'initiatives sur lesquelles dépenser les 600 millions de dollars en argent de New Tech dans la demande de budget de l'exercice 2026 de l'administration Trump. Il est devenu fessée lorsqu'on lui a demandé si ses plans signifient qu'il remplacera le personnel humain par l'IA.
« Vous avez fait référence à la SSA étant en dotant de personnel de tous les temps; c'est aussi à un sommet technologique de tous les temps », a-t-il cassé un démocrate lors d'une audience de la Chambre fin juin.
Mais les anciens responsables de la sécurité sociale sont plus ambivalents. Dans des entretiens avec KFF Health News, les gens qui ont quitté l'agence – certains s'exprimant sous couvert d'anonymat par crainte de représailles de l'administration Trump et de ses partisans – ont déclaré qu'ils pensaient que la nouvelle administration s'est simplement précipitée des technologies développées, mais jugées pas encore prête, par l'administration Biden. Ils ont également déclaré que le licenciement par l'agence de milliers d'employés avait entraîné la perte de technologues expérimentés qui sont les mieux équipés pour déployer ces initiatives et aborder leurs faiblesses.
« Le nouvel outil téléphonique d'IA de la sécurité sociale rend encore plus difficile pour les gens d'obtenir de l'aide par téléphone – et presque impossible si quelqu'un a besoin d'un interprète ou d'un traducteur américain de la langue des signes », a déclaré la sénatrice Elizabeth Warren (D-Mass.) A déclaré à KFF Health News. « Nous devrions rendre le plus facile que possible pour les gens d'obtenir la sécurité sociale qu'ils ont gagnée. »
Les porte-parole de l'agence n'ont pas répondu aux questions de KFF Health News.
L'utilisation de l'IA pour automatiser le service client est l'une des entreprises les plus bourdonnantes de la Silicon Valley. En théorie, la nouvelle race de technologies d'intelligence artificielle peut répondre en douceur, d'une voix humaine, à presque n'importe quelle question. Ce n'est pas ainsi que le bot de la Social Security Administration semble fonctionner, les utilisateurs signalant des réponses en conserve et sans rapport.
L'administration Trump a éliminé certaines statistiques en ligne qui obscurcissent sa véritable performance, a déclaré Kathleen Romig, un ancien responsable de l'agence qui est maintenant directeur de la politique sociale et de la politique du handicap au centre de gauche sur les priorités budgétaires et politiques. L'ancien site Web a montré que la plupart des appelants ont attendu deux heures pour une réponse. Désormais, le site Web n'affiche pas les temps d'attente, ni pour les demandes de renseignements téléphoniques (une fois que le temps d'attente de rappel est pris en compte) ou la planification de rendez-vous.
Bien que les statistiques soient publiées qui montrent que les bénéficiaires reçoivent de l'aide – c'est-à-dire en utilisant le bot AI ou le site Web de l'agence pour accomplir des tâches comme obtenir une carte de remplacement – Romig a dit qu'elle pensait que c'était une « vue très déformée » dans l'ensemble. Les examens du bot AI sont souvent pauvres, a-t-elle déclaré.
Les chefs d'agence et les employés qui ont travaillé pour la première fois sur le produit de l'IA pendant l'administration Biden ont anticipé ces types de difficultés. Escobar-Alava a déclaré avoir travaillé sur un tel bot, mais voulait nettoyer les données de politique et de réglementation sur lesquelles elle comptait en premier.
« Nous voulions assurer que l'automatisation produisait des réponses cohérentes et précises, ce qui allait prendre plus de temps », a-t-elle déclaré. Au lieu de cela, il semble que l'administration Trump ait choisi d'introduire le bot d'abord et de dépanner plus tard, a déclaré Escobar-Alava.
Romig a déclaré qu'un ancien cadre lui avait dit que l'agence avait utilisé des FAQ en conserve sans modifications ni nuances pour s'adapter aux situations individuelles et surveillait la technologie pour voir à quel point elle a fonctionné. Escobar-Alava a déclaré qu'elle avait entendu de la même manière.
L'automatisation pourrait-elle aider?
Pour Bisignano, l'automatisation et les services Web sont les moyens les plus efficaces d'aider les bénéficiaires du programme. Dans une lettre à Warren, il a déclaré que les dirigeants de l'agence « transforment la SSA en une agence axée sur le numérique qui rencontre les clients où ils veulent être rencontrés », apportant des modifications qui permettent à la grande majorité des appels d'être traités soit de manière automatisée, soit en ayant un retour humain à l'appel du client.
L'utilisation de ces méthodes soulage également les charges sur les bureaux de terrain autrement assiégés, Bisignano a écrit.
La modification de l'expérience téléphonique n'est pas la fin des rêves technologiques de Bisignano. L'agence a demandé au Congrès quelque 600 millions de dollars de financement supplémentaire pour les investissements, qu'il avait l'intention d'utiliser pour la planification en ligne, la détection de fraude, et bien plus encore, selon une liste soumise à la Chambre fin juin.
Mais les experts extérieurs et les anciens employés ont déclaré que Bisignano a surestimé la nouveauté des idées qu'il a présentées au Congrès. L'agence met à jour sa technologie depuis des années, mais cela ne signifie pas nécessairement que des milliers de ses travailleurs sont soudainement obsolètes, a déclaré Romig. Ce n'est pas mauvais que les mises à niveau se poursuivent, a-t-elle déclaré, mais les progrès ont été plus progressifs que révolutionnaires.
Certains changements se concentrent sur la folie du visage public de l'agence. Bisignano a déclaré aux législateurs de la Chambre qu'il a supervisé une refonte de la page des statistiques de performance de l'agence pour souligner le nombre d'appels automatisés et cesser les statistiques sur les temps d'attente d'appels. Il a qualifié ces derniers statistiques de « décourager » et a suggéré que les afficher en ligne pourraient dissuader les bénéficiaires d'appeler.
Warren a déclaré que Bisignano lui avait depuis dit en privé qu'il autoriserait un « audit général de l'inspecteur général » de ses données de qualité client-service et s'est engagé à rendre une liste des informations de performance accessibles au public. L'agence a depuis mis à jour sa page de statistiques de performance.
D'autres changements auraient un coût et des efforts plus élevés. En avril, l'agence a déployé un programme d'authentification de sécurité pour les modifications directes des dépôts, obligeant les bénéficiaires à vérifier leur identité en personne si ce que l'agence a décrit dans les documents réglementaires comme un système d'analyse « automatisé » détecte les anomalies.
Selon des documents accompagnant la proposition, l'agence a estimé qu'environ 5,8 millions de bénéficiaires seraient affectés – et cela coûterait au gouvernement fédéral près de 1,2 milliard de dollars, principalement motivé par le temps du personnel consacré à l'aide aux demandeurs. L'agence demande près de 7,7 milliards de dollars au cours du prochain exercice pour la paie dans son ensemble.
Christopher Hensley, une conseillère financière à Houston, a déclaré que l'un de ses clients l'a appelé en mai après que sa banque ait changé son numéro de routage et que la sécurité sociale a cessé de la payer, la forçant à emprunter de l'argent à sa famille.
Il s'est avéré que l'agence avait signalé son compte pour la fraude. Hensley a déclaré qu'elle devait voyager 30 minutes au bureau de sécurité sociale le plus proche pour vérifier son identité et corriger le problème.
