Coûts de l’IA : chaque token doit désormais prouver sa valeur

Data / IA

Calculer son « retour sur IA », nouvel impératif des DSI

Par La rédaction, publié le 05 novembre 2026

À mesure que l’usage de l’IA se généralise dans les entreprises, les coûts s’envolent et deviennent de moins en moins identifiables. Catégories de dépenses, ratio de rentabilité, leviers d’optimisation : voici ce que vous devez savoir pour reprendre la main sur la facture.


Par Gildas Bouteiller, directeur associé au Boston Consulting Group


Après l’enthousiasme des débuts, voici venue l’heure du retour aux réalités comptables. L’intégration de l’IA aux différents workflows a alourdi les factures. Mais pourquoi une telle explosion des coûts ? C’est que le modèle économique de l’IA diffère radicalement de celui d’un logiciel traditionnel. Avec le SaaS par exemple, l’abonnement est fixe et les dépenses prévisibles. Les principales plateformes d’IA ont, à l’inverse, adopté une facturation à l’usage, échelonnée selon le nombre de tokens utilisés, cette unité de texte utilisée par les modèles de langage (LLM) pour lire et traiter de l’information. Résultat : plus les collaborateurs utilisent l’IA, plus elle s’intègre aux produits et aux interactions clients, plus le coût total des jetons explose.
Le choix du LLM n’est pas non plus sans conséquences. L’écart de prix entre un modèle « simple » effectuant une tâche de base et un modèle conçu pour gérer des tâches plus complexes peut être de 5 à 25 fois supérieur par token. Les dépenses s’envolent donc, sans que les entreprises parviennent à les suivre et les évaluer avec précision. Selon IDC, les 1 000 plus grandes entreprises mondiales sous-estimeront ainsi leurs coûts d’infrastructures d’IA de près de 30 % d’ici 2027.

Premier impératif pour sortir du flou : parvenir à bien classer les dépenses associées à l’IA. Les entreprises auraient intérêt à répartir leurs coûts en trois catégories distinctes. En premier lieu, ceux qui relèvent des dépenses d’investissement (CAPEX), réalisées de façon ponctuelle pour réduire les frais d’exploitation ou accroître une capacité (conception des agents, automatisation des processus). Deuxième catégorie : les dépenses opérationnelles (OPEX), qui recouvrent toute utilisation courante d’outils d’IA par les collaborateurs. Celles-ci sont à piloter par métier, avec des enveloppes budgétaires définies. Enfin, il convient de compter les tokens consommés par les outils intégrés aux produits et services vendus comme un coût direct de ces derniers, afin de suivre leur impact sur les marges, et les ajuster en conséquence.

Bien classer ces dépenses ne suffit pas à savoir si elles sont rentables

Le retour sur investissement des dépenses engagées n’est pas aisé à établir. Les comités de direction se trouvent face à un nouveau défi : évaluer, workflow par workflow, le ratio coût/bénéfice des outils d’IA qu’ils acquièrent, pour s’assurer que la valeur générée reste supérieure aux dépenses engagées. Il faut un critère unique, applicable aux trois catégories de coûts distinguées, pour juger si les tokens dépensés créent réellement de la valeur. C’est le calcul du « Return on AI » (RoAI), que nous pouvons résumer ainsi : RoAI = rendement économique / (coût de la supervision humaine + coût des jetons). L’objectif est d’optimiser ce ratio en évitant deux écueils : d’un côté, la surconsommation aveugle de tokens, de l’autre, un rationnement arbitraire qui asphyxierait l’innovation.

Les dépenses s’envolent sans que les entreprises parviennent à les évaluer

Pour conjuguer efficacité et frugalité, cinq leviers opérationnels se détachent. Le premier est la suppression de l’inutile : le recours à l’IA ne doit pas être systématique. Les problèmes déterministes (calculs, requêtes structurées, routage basé sur des règles…) sont résolus plus vite, mieux et moins cher par du code logiciel traditionnel.

Le deuxième levier repose sur l’aiguillage intelligent des tâches. Confier chaque requête aux modèles les plus avancés du marché assèche inutilement les budgets. Il faut les réserver aux raisonnements complexes et orienter les tâches courantes vers des modèles plus légers.

Troisièmement, la « mise en cache » (prompt caching), qui permet de réutiliser les éléments de contexte récurrents propres à l’entreprise (instructions, règles internes, référentiels, etc.) sans avoir à les retraiter intégralement à chaque requête. Chez les grands fournisseurs de modèles, ce mécanisme peut réduire fortement le coût des tokens d’entrée lorsque les mêmes volumes importants de contexte sont mobilisés de manière répétée.

Ensuite, la technologie suppose une gouvernance adaptée. Les travaux du collectif DORA (DevOps Research and Assessment) de Google rappellent que l’IA ne transforme pas une organisation défaillante : elle amplifie ses forces comme ses faiblesses. Chaque cas d’usage doit faire état d’un pilote, d’un résultat et d’un coût par résultat justifiant son extension ou son arrêt.

Enfin, le cinquième levier est celui de la formation des équipes, pour garantir un usage optimal des prompts. En apprenant à formuler des requêtes concises et ciblées, les collaborateurs deviendront les premiers garants d’une IA créatrice de valeur pérenne. Classer, évaluer, optimiser : c’est à ces conditions que les entreprises pourront déployer le plein potentiel de l’IA, et en faire un véritable levier de création de valeur – et non une simple ligne de coûts.

Photo : Ms365 / Unsplash

À LIRE AUSSI :

À LIRE AUSSI :

Dans l'actualité