Gouvernance
La bureaucratie : propriété émergente des sociétés modernes ?
Par La rédaction, publié le 28 octobre 2026
Hallucinations, capacités de raisonnement que personne n’a codées… les LLM développent des comportements que nul n’a programmés. Il suffit d’entraîner son propre modèle pour s’en convaincre, et pour voir surgir une question bien plus dérangeante : et si nos organisations fonctionnaient exactement de la même façon ?
Par Patrick Duverger, directeur des SI et des moyens généraux de la Ville d’Antibes
Je ne sais pas pour vous, mais les articles sur l’IA me fatiguent. Mode d’emploi archiconnu : 1, ça va très mal ; 2, mais il y a un truc pour s’en sortir ; 3, alors faites-moi confiance. Lessive ou régulation d’IA, même mécanisme de vente. Il marche si bien qu’il est devenu impopulaire d’être pro-IA. Je suis cerné par les bien-pensants normatifs qui voient chaque expérimentateur en IA comme un savant fou, acteur consciencieux d’une fin du monde annoncée. Donc je vous propose l’inverse : 1, ne me faites pas confiance et doutez ; 2, il existe des connaissances fiables pour avancer ; 3, ça ne va pas aller si mal, peut-être même le contraire.
Un détour par les entrailles des LLM s’impose, non pour l’apologie technique, mais parce que rarement un artefact humain aura été aussi révélateur de son créateur. Les IA hallucinent parce qu’il faut une quantité astronomique de données pour les entraîner : au minimum 20 tokens par paramètre, soit 7 téraoctets de texte brut pour 70 milliards de paramètres. Comme toutes les encyclopédies du monde n’y suffisent pas, il faut bien rajouter les contenus de tous les forums et leurs délires complotistes. Tout y passe ! Les hallucinations ne sont donc pas un bug, elles sont la conséquence mécanique d’un rapport signal/bruit défavorable.
Simples machines statistiques pour autant ? Non, contrairement à la rumeur, les IA sont capables de raisonnement. Et le plus beau ? Personne n’a codé ces capacités : il s’agit de propriétés émergeant d’un entraînement massif.
Alors pourquoi ne pas créer un modèle profond et étroit : intelligent mais sans connaissances inutiles (donc sans hallucinations) ? L’auteur de ces lignes a construit un tel modèle – profond et étroit. Résultat : des phrases syntaxiquement irréprochables, des subordonnées qui s’empilent et se referment sans perdre le fil. Et ?… un contenu d’une vacuité confondante. La forme sans la matière. Bourdieu sans Bourdieu. Ce que les poids ne peuvent fournir en substance, le modèle le compense par la rhétorique. Au lieu d’une IA très intelligente et sans hallucination, on obtient un petit rond-de-cuir éloquent qui remplit le vide : propriété émergente non souhaitée…
La question qui dérange : avons-nous câblé nos organisations différemment ?
L’eau bout à 100 °C et cette propriété n’est dans aucun de ses atomes, elle émerge du groupe, de l’interaction, de l’échelle. L’IA nous offre le microscope qui manquait pour observer le même phénomène ailleurs. Empilez les couches hiérarchiques sans élargir la connaissance opérationnelle, et contemplez le résultat : des comités de pilotage qui pilotent leur propre existence, des notes de service inutiles. Personne ne l’a voulu. L’absurdité procédurale comme propriété émergente, au même titre que l’ébullition de l’eau.
La vraie révolution n’est pas du côté de l’IA. Elle est du côté de l’IB : l’intelligence biologique qu’elle imite maladroitement, mais suffisamment pour poser des questions inconfortables. Si quelques milliards de multiplications tensorielles suffisent à produire quelque chose qui ressemble à de la compréhension, qu’est-ce que cela dit de la nature de notre propre compréhension ? Platon répondrait que l’âme accède au monde des Idées là où la machine ne fait que calculer. Sauf que la machine y accède aussi, un monde de notions pures dont ses restitutions sont de plus en plus justes. Platon aurait aimé la référence, moins la conclusion : pas sûr que le monde des Idées soit un arrière-monde caché, il est maintenant sous nos yeux.
Les machines pensantes utilisent le même mécanisme que nous – la prédiction. Token suivant, prochain mouvement du prédateur dans la savane, réaction du marché : même mécanique, niveaux d’abstraction différents. L’intelligence est le niveau méta de l’anticipation, au départ de la survie. Et maintenant pour faire émerger quoi ? Une symphonie ou un arrêté municipal… (je laisse au lecteur sa préférence).
Le veau marche à la naissance, précâblé, mais il restera veau. L’humain, incompétent à la naissance, dispose de vingt ans de plasticité pour se spécialiser dans n’importe quel domaine. Moins on est hardcodé, plus on est adaptable. Les transformers généralistes ont suivi le même chemin : ils ont écrasé les réseaux spécialisés codés en dur. La leçon vaut pour qui conçoit des organisations : procédures immuables, empilements normatifs, organigrammes profonds produisent des systèmes qui n’apprennent plus jamais.
La bureaucratie est une architecture, pas une fatalité ! Les architectures, ça se change. Mais il faut pour cela changer la fonction de loss : mesurez l’efficacité sur autre chose que la conformité procédurale, sur la performance réelle de l’action par exemple, et d’autres propriétés émergeront.
L’IA ne nous menace pas. Elle nous ressemble. Et c’est bien plus inquiétant. On s’attendait à Terminator. On a obtenu un miroir. Le problème avec les miroirs, c’est qu’on ne peut pas prétendre ne pas avoir vu.
À LIRE AUSSI :
À LIRE AUSSI :
À LIRE AUSSI :
