Cloud
Quand l’IA agentique se heurte à la réalité des infrastructures
Par La rédaction, publié le 24 septembre 2026
Les agents IA savent raisonner, chercher, décider et agir. Encore faut-il que les infrastructures suivent. À mesure que l’IA agentique quitte les démonstrations pour entrer en production, quelques millisecondes de latence, une donnée périmée ou une panne anodine peuvent soudain enrayer toute la machine. L’infrastructure se rappelle ainsi au souvenir de toutes les DSI…
Par Barry Morris, Chief Product and Strategy Officer de Couchbase
Lorsqu’un projet d’IA reste bloqué au stade du pilote, le modèle est souvent le premier suspect. On en teste un autre, on affine les données métier ou on ajoute une couche de RAG, un réflexe compréhensible après deux années où chaque nouvelle génération a repoussé un peu plus loin les capacités de l’IA. Pourtant, une fois connectés aux systèmes réels de l’entreprise, les modèles se heurtent souvent à des difficultés beaucoup plus ordinaires.
Un assistant peut être impeccable pendant les tests et commencer à donner des réponses incohérentes quelques jours après son déploiement parce qu’un profil client n’est plus à jour, que deux systèmes se contredisent ou qu’un champ essentiel n’a jamais été renseigné. Le modèle n’a pas changé entre-temps, il travaille simplement avec un contexte bien moins propre et maîtrisé que celui du pilote.
L’arrivée des agents donne une autre dimension au problème. Là où un copilote répond généralement à une sollicitation ponctuelle, un agent peut chercher lui-même une information, consulter plusieurs sources, utiliser des outils, accéder à des données opérationnelles et agir en fonction de ce qu’il trouve, avant de poursuivre son travail sans attendre une nouvelle intervention humaine. Les accès aux données se multiplient et les décisions s’enchaînent, exposant beaucoup plus rapidement les faiblesses de l’infrastructure.
IDC prévoit que 80 % des cas d’usage de l’IA agentique auront besoin de données contextuelles, largement accessibles et disponibles en temps réel pour atteindre le stade de la production. Deloitte estime de son côté que seules 34 % des entreprises ont atteint un niveau avancé de transformation par l’IA. Entre une démonstration réussie et un agent capable de travailler durablement dans un système d’information, il reste donc une distance importante, qui se mesure notamment en millisecondes, en disponibilité et en capacité à ne pas perdre le fil.
Quelques millisecondes, multipliées par des millions
Pour traiter une seule demande, un agent de service client peut avoir besoin de consulter un profil, de vérifier des transactions, de parcourir une base documentaire puis d’effectuer une recherche vectorielle. Dans beaucoup d’entreprises, ce parcours traverse plusieurs systèmes, chacun avec ses propres temps de réponse et règles de cohérence. Cette fragmentation n’est pas nouvelle, mais la fréquence à laquelle les agents viennent la mettre à l’épreuve, elle, l’est davantage.
Quelques millisecondes supplémentaires passent facilement inaperçues sur un prototype. Elles pèsent autrement lorsqu’un agent doit chercher son contexte parmi des milliards d’enregistrements et répéter l’opération des milliers de fois : une base ajoute son délai, une autre également, puis vient un service intermédiaire. La rapidité du modèle ne compense alors plus celle d’un contexte qui arrive trop tard.
Barry Morris
Chief Product and Strategy Officer de Couchbase
« La rapidité du modèle ne compense plus celle d’un contexte qui arrive trop tard. »
Plus l’agent agit, moins la panne est anodine
Quelques minutes d’interruption ont peu de conséquences lorsqu’un assistant sert à résumer un document. La situation est différente lorsqu’un agent traite des demandes clients, intervient dans la gestion de sinistres ou participe à des opérations logistiques. Les DSI connaissent bien ces enjeux : réplication, basculement et haute disponibilité font depuis longtemps partie de l’architecture des systèmes critiques..
Avec les agents, ces principes restent valables mais les contraintes s’accentuent car l’infrastructure doit désormais supporter des logiciels capables d’enchaîner des milliers d’actions par minute, parfois sur plusieurs régions et dans des environnements hybrides. En cas de panne, le risque ne se limite d’ailleurs pas à une interruption du service : un agent qui continue de fonctionner malgré l’indisponibilité de certaines données peut aussi prendre ses décisions à partir d’un contexte incomplet.
Plus les agents interviennent dans des processus critiques, plus la disponibilité doit être pensée à l’échelle de l’ensemble du système. Celle du modèle ou de son API ne suffit pas si l’accès aux données dont il dépend n’est pas tout aussi fiable.
Se souvenir devient une contrainte d’architecture
Un agent doit garder la trace de ce qu’il a appris et accompli au fil d’une tâche. Après une panne ou un redémarrage, il doit pouvoir retrouver ce contexte rapidement et reprendre son travail sans repartir de zéro.
Pour cela, les approches diffèrent selon les architectures puisque certaines associent un cache rapide à un stockage durable, avec les contraintes de synchronisation que cela implique tandis que d’autres s’appuient sur la mémoire intégrée aux frameworks d’orchestration ou aux plateformes cloud, parfois plus difficile à gérer à grande échelle.
Cette mémoire devient d’autant plus importante que les agents travaillent dans la durée : conserver leur état, leur contexte et l’historique de leurs actions est alors indispensable pour assurer la continuité de leur travail.
La production commence là où la démo s’arrête
Ces deux dernières années, la préparation à l’IA s’est surtout jouée sur les compétences, la gouvernance et le choix des modèles. L’essor des agents déplace désormais le regard vers l’infrastructure. Car lorsqu’un agent puise son contexte dans plusieurs systèmes, multiplie les actions et doit reprendre son travail après un incident, ce qui se passe sous le modèle compte tout autant.
Le sujet est moins spectaculaire qu’une démonstration du dernier modèle devant une audience ébahie, mais c’est souvent là que le pilote se confronte à la réalité de la production. Latence, disponibilité, cohérence des données, persistance : rien de nouveau pour les DSI, si ce n’est le rythme auquel les agents mettent désormais ces infrastructures à l’épreuve, mais c’est un défi de taille.
À LIRE AUSSI :
À LIRE AUSSI :
