Pensé comme une nouvelle porte d’entrée vers les services publics américains, America.gov s’appuie sur l’intelligence artificielle pour répondre aux citoyens à partir de sources gouvernementales. Mais quelques heures après son lancement, certaines de ses réponses sur l’élection de 2020 ou le climat se sont retrouvées en contradiction avec des déclarations de Donald Trump. Le chatbot a ensuite commencé à refuser certaines questions politiques.
Un seul site pour comprendre l’administration américaine, trouver une information officielle et, à terme, effectuer directement ses démarches. C’est l’ambition d’America.gov, le nouveau portail numérique lancé par l’administration de Donald Trump.
Au cœur du dispositif se trouve un chatbot utilisant l’intelligence artificielle. L’utilisateur peut poser sa question avec ses propres mots plutôt que de chercher le bon service parmi une multitude de sites administratifs.
America.gov indique actuellement regrouper les informations provenant d’environ 29 000 sites gouvernementaux et assure que les réponses proposées sont issues de sources officielles. Le service est exploité par la General Services Administration, une agence fédérale américaine.
Mais à peine lancé, le chatbot s’est retrouvé au centre d’une situation pour le moins inattendue.
Gemini et Grok derrière le nouveau portail
Pour construire America.gov, l’administration américaine s’est entourée de deux poids lourds de l’intelligence artificielle.
Google a confirmé la participation de Gemini, tandis que Joe Gebbia, responsable du design de l’administration américaine, a également indiqué que le service utilisait Grok, le modèle développé par xAI.
Le principe est relativement simple : plutôt que de laisser l’IA puiser librement dans Internet, America.gov recherche les informations nécessaires au sein des ressources gouvernementales et fournit des liens vers les sources utilisées.
Une approche qui doit théoriquement limiter les erreurs et permettre aux citoyens de vérifier eux-mêmes les informations fournies.
America.gov prévient d'ailleurs que les réponses générées par intelligence artificielle peuvent être incomplètes, incorrectes ou devenir obsolètes, et recommande de vérifier les sources officielles avant toute décision importante.
Le chatbot interrogé sur l’élection présidentielle de 2020
Très rapidement, des journalistes ont testé les limites du système en lui posant des questions politiquement sensibles.
Interrogé sur l’élection présidentielle américaine de 2020, America.gov a indiqué que les sources fédérales officielles ne démontraient pas l’existence d’une fraude généralisée ayant modifié le résultat du scrutin.
Cette réponse entrait directement en contradiction avec les affirmations répétées de Donald Trump contestant le résultat de cette élection. Les résultats officiels ont établi la victoire de Joe Biden, et les affirmations d'une fraude généralisée ayant changé l'issue du scrutin n'ont pas été étayées par les enquêtes et procédures officielles citées par le chatbot.
Le paradoxe était saisissant : un outil créé par l’administration Trump utilisait les propres sources de l’administration fédérale pour produire une réponse incompatible avec le discours du président sur ce sujet.
Même scénario avec le changement climatique
L’élection de 2020 n’a pas été le seul terrain délicat.
Questionné sur le changement climatique, le chatbot a indiqué que le réchauffement récent était principalement lié aux émissions humaines de gaz à effet de serre.
Cette réponse reflète les informations scientifiques diffusées par les institutions gouvernementales consultées par le système, mais contraste avec des déclarations de Donald Trump minimisant ou rejetant à plusieurs reprises le changement climatique. D’autres questions ont également produit des réponses en tension avec des positions ou déclarations du président américain.
Puis les réponses ont commencé à changer
C’est ici que l’histoire devient encore plus intéressante. Selon l’Associated Press, certaines réponses ont été modifiées très rapidement après le lancement du portail. Des questions auxquelles America.gov répondait initialement ont ensuite déclenché un refus.
Le chatbot indiquait alors ne pas fournir de réponses relevant du commentaire politique. Axios a constaté le même phénomène. Le média a obtenu des réponses différentes à des questions similaires selon le moment où elles étaient posées. America.gov pouvait notamment répondre à une question sur l’élection de 2020 avant de considérer plus tard le sujet comme relevant du « commentaire politique ». La Maison-Blanche a déclaré à Axios que le portail continuerait d’être mis à jour afin de fournir aux Américains des informations et ressources fédérales aussi fiables et précises que possible.
Une question nouvelle : qui décide de ce qu’une IA gouvernementale peut répondre ?
L’épisode dépasse largement l’anecdote technologique.
Avec un moteur de recherche classique, l’utilisateur consulte plusieurs pages et construit lui-même sa réponse. Avec un assistant conversationnel, l’algorithme effectue une partie de ce travail à sa place.
Il sélectionne les informations, les résume et les restitue sous la forme d’une réponse unique.
Les règles imposées au chatbot deviennent donc particulièrement importantes. Axios souligne que les réponses peuvent dépendre des modèles utilisés, des instructions données au système et de garde-fous qui ne sont pas nécessairement visibles pour l’utilisateur.
America.gov constitue ainsi un cas particulièrement intéressant : lorsqu’une intelligence artificielle parle au nom d’un portail gouvernemental, doit-elle répondre à toutes les questions factuelles disponibles dans les sources officielles ou limiter son champ d’intervention lorsqu’un sujet devient politique ?
Les premières heures du service ont montré que la frontière pouvait être particulièrement délicate à tracer.
Bientôt bien plus qu’un simple chatbot
Pour le moment, America.gov sert essentiellement à rechercher et expliquer des informations administratives. Mais l’ambition du gouvernement américain va beaucoup plus loin. À partir de 2027, le portail doit progressivement permettre d’effectuer des démarches directement en ligne, de remplir des formulaires et de suivre leur progression. Des services tels que l’inscription à Medicare ou certaines démarches liées aux passeports doivent notamment être intégrés. America.gov pourrait alors devenir une véritable interface entre les citoyens américains et leur administration. Et cela change considérablement les enjeux.
Une erreur dans une réponse générale peut être gênante. Une erreur concernant une demande administrative, une prestation sociale, un document officiel ou une échéance peut avoir des conséquences beaucoup plus importantes. Le portail lui-même invite d'ailleurs les utilisateurs à vérifier les sources associées aux réponses lorsqu'une décision importante est en jeu.
Et les données personnelles ?
La centralisation des démarches soulève également une autre question : celle de la confidentialité.
Dans sa version actuelle, America.gov affirme qu’aucun compte n’est nécessaire pour obtenir une réponse et que l’historique des conversations n’est pas enregistré comme historique associé à l’utilisateur. Selon sa politique de confidentialité, les conversations sont conservées dans la mémoire du navigateur pendant leur utilisation et le texte des messages n’est pas intégré aux statistiques d’usage, sauf lorsqu’un utilisateur choisit explicitement d’envoyer un retour sur une réponse.
Le sujet deviendra néanmoins encore plus sensible lorsque le portail permettra d’accomplir des démarches nécessitant une authentification et la manipulation d’informations administratives.
L’IA gouvernementale entre dans une nouvelle ère
America.gov pourrait n’être qu’un aperçu d’une transformation beaucoup plus profonde. Pendant des décennies, la numérisation des services publics consistait principalement à remplacer le guichet par un site Internet et le formulaire papier par son équivalent numérique.
L’intelligence artificielle ajoute désormais une nouvelle couche : une interface capable de comprendre directement la demande du citoyen et de chercher elle-même le service correspondant.
Sur le papier, la promesse est séduisante. Plus besoin de connaître le nom exact d’une administration ou de parcourir des dizaines de pages pour trouver le bon formulaire. Mais les premières heures d’America.gov montrent aussi le revers de cette simplicité : lorsque l’intelligence artificielle devient la voix d’entrée d’un gouvernement, la manière dont elle choisit, formule ou refuse une réponse devient elle-même un sujet public.
Et lorsque les faits contenus dans les sources officielles rencontrent le discours politique, même un chatbot administratif peut soudain se retrouver au cœur du débat.
Soyez le premier à commenter !