Data / IA
Les 1000 workflows agentiques d’AT&T consomment 45 milliards de tokens par jour
Par Reynald Fléchaux, publié le 21 septembre 2026
En deux ans, l’opérateur télécoms a multiplié par 45 sa consommation de tokens, illustrant les effets du déploiement à grande échelle des agents IA.
L’agentique à grande échelle. En se basant sur une plateforme maison, qui permet de rester agnostique par rapport aux modèles de tel ou tel fournisseur, l’opérateur américain AT&T a déployé ou est en train de développer plus de 1000 workflows pilotés par des agents IA. « L’année dernière, chaque dollar investi dans l’IA nous en a rapporté cinq, en cash. Nous avons enclenché une dynamique vertueuse », assure Andy Markus, directeur des données et de l’IA de l’entreprise, dans les colonnes de CIO.com.
Et ce, malgré une consommation massive de tokens, puisque l’opérateur en engloutit 45 milliards par jour en moyenne, soit l’équivalent de 50 millions de requêtes simples sur un chatbot ou de 800 000 tâches complexes d’analyse et de débogage de code, selon les chiffres d’une étude Wolfe Research, citée par J.P. Morgan Private Bank. Ce total représente également une multiplication par 45 en deux ans de la consommation interne d’AT&T, l’entreprise ayant annoncé être parvenu au seuil d’un milliard de tokens quotidiens en 2024. Ce bond spectaculaire illustre les conséquences de l’utilisation des agents sur les besoins en calcul, donc, in fine, sur la facture de la GenAI.
SLM et lutte contre la prolifération des agents
Notons d’ailleurs que l’opérateur a travaillé sur la réduction des coûts liés à ses déploiements agentiques, sa plateforme d’IA ayant également pour objectif de choisir le modèle le plus adapté à une requête. Par exemple, celles ne nécessitant pas une IA de pointe sont orientées vers un modèle plus ancien, donc moins coûteux. Andy Markus explique également recourir à des SLM, entraînés par les équipes d’AT&T sur des données spécifiques, afin de couvrir certaines tâches précises.
Autre point intéressant : en complément de cette spécialisation de SLM sur des tâches données, l’opérateur télécoms aux 133 000 employés cherche à contenir sa population d’agents IA déployés, en les concevant pour être polyvalents, afin de limiter les risques de perte de maîtrise des environnements où cohabitent un trop grand nombre d’agents.
Des agents au coeur des opérations dans 1% des entreprises seulement
Andy Markus estime que son entreprise est désormais entrée dans une phase d’amélioration continue dans le déploiement de l’IA agentique, et non plus dans la construction des capacités nécessaires à la maîtrise de ce virage : « Nous développons, nous optimisons. Nous nous inscrivons désormais dans ce cycle, précise-t-il. C’est devenu une démarche routinière. »
Selon une étude de Deloitte datant de janvier dernier, 20% des entreprises dans le monde déclarent utiliser l’IA agentique de manière modérée, 2% de façon intensive. 1% seulement des organisations indiquent avoir pleinement intégré cette technologie au cœur de leurs opérations.
