Data / IA
Microsoft répond à Dario Amodei : ralentir l’IA, oui… la confisquer, non
Par Laurent Delattre, publié le 18 septembre 2026
Dario Amodei veut donner du temps à la sûreté pour rattraper l’IA. Satya Nadella lui répond presque point par point : d’accord pour ralentir, d’accord pour les contrôleurs externes, d’accord pour maintenir l’IA sous contrôle humain. Mais surtout pas question de laisser quelques laboratoires décider seuls de la vitesse, des règles et des modèles autorisés. Derrière le débat sur la superintelligence se joue déjà une autre bataille : celle du contrôle de l’écosystème IA.
Il n’aura pas fallu attendre longtemps pour que l’appel de Dario Amodei commence à produire ses effets. Dans We Must Pace the Frontier, le patron d’Anthropic propose non pas d’arrêter la course à l’IA, mais de lui imposer des points de contrôle : évaluateurs externes installés au cœur des laboratoires, standards communs entre démocraties puis, à terme, coordination internationale. Anthropic promet même d’ouvrir ses portes à ces « embedded evaluators » avec un niveau d’accès proche de celui de ses salariés. Beaucoup de promesses, peu d’engagements, trop de contradictions (cf. nos articles « Alerte sincère ou manœuvre stratégique ? Ce que cache le cri d’alarme de Dario Amodei (Anthropic) » et « Il est quand même gonflé, Dario !« …)
Satya Nadella aurait pu botter en touche. Il choisit au contraire d’embrasser une bonne partie du diagnostic.
« Si l’IA que nous construisons n’aide pas l’humanité et ne reste pas sous contrôle humain, elle ne mérite pas d’être poursuivie. »
Difficile de faire plus clair. Et Microsoft ne s’arrête pas au slogan. Le nouveau Humanist AI Code of Conduct, publié par Microsoft AI en début de semaine, affirme que « les humains comptent davantage que l’IA » (chouette alors!), rejette explicitement la course à une superintelligence généraliste susceptible d’échapper aux garde-fous et accepte même l’idée de sacrifier, si nécessaire, autonomie ou capacités pour préserver le contrôle humain.
Un bouton rouge, mais un vrai
Microsoft descend surtout beaucoup plus bas dans la plomberie qu’Amodei. Ses futurs modèles MAI ne devront jamais résister à une interruption, une correction ou un arrêt. Ils ne devront ni masquer leurs traces d’action, ni se fixer spontanément de nouveaux objectifs, ni contourner les limites de leur environnement. Les opérations cyber offensives figurent également parmi les interdits explicites.
En clair : le fameux « bouton rouge » que la science-fiction cherche depuis cinquante ans doit réellement fonctionner. Au passage, si vous n’avez pas lu notre article sur les 5 lois de la robotique et les IA, nous vous invitons fortement à le faire, il n’a pas pris une ride.
Mais il y a une subtilité assez savoureuse : cette constitution affichée par le géant américain n’est pas encore celle des modèles actuels. Le document est soumis à six semaines de consultation et Microsoft prévoit de l’utiliser pour guider ses développements à partir de 2027. Pour l’instant, c’est donc moins une ceinture de sécurité qu’un excellent plan pour fabriquer la prochaine.
Nadella glisse une deuxième bombe
Satya Nadella reste un homme relativement diplomatique. Mais son message n’en est pas pour autant insipide. Une affirmation vient claquer la rhétorique de Dario Amodei.
« Cela ne peut pas être contrôlé par une poignée d’entités. »
Voilà une petite phrase qui change tout. Nadella approuve le « deliberate pacing » (le ralentissement délibéré) d’Amodei et accueille favorablement ses « embedded evaluators » (les évaluateurs tierces embarqués). Mais il ajoute immédiatement qu’un écosystème de frontière doit permettre aux modèles fermés comme open source de prospérer.
Autrement dit : ralentir la course, peut-être. Transformer les quelques entreprises déjà en tête en comité chargé de distribuer les permis de courir, beaucoup moins.
La nuance n’est pas anodine. Amodei propose une coordination des principaux laboratoires (Anthropic, OpenAI, Google DeepMind, SpaceX AI), potentiellement soutenue par des exemptions antitrust et, idéalement, encadrée par les gouvernements. Il y voit le moyen de rendre le ralentissement vérifiable.
Satya Nadella semble estimer qu’une telle mécanique pourrait surtout cimenter le pouvoir des acteurs déjà installés.
Et Microsoft pense déjà aux DSI
Et plutôt que de poursuivre sur le terrain de la moralité et du rapport de l’IA au bien commun, le patron de Microsoft préfère immédiatement glisser vers celui, bien plus compatible Microsoft, de l’IA d’entreprise.
« Chaque organisation doit pouvoir construire sa propre boucle d’apprentissage continue sans devenir dépendante d’un fournisseur de modèle. »
Et même intégrer son savoir « dans des modèles et des poids qu’elle contrôle ».
Plutôt que de s’épancher sur un débat presque métaphysique sur la survie de l’humanité, Satya Nadella préfère en tirer un principe d’architecture IT : pas de dépendance à un modèle unique, choix à tous les étages de la pile et contrôle par l’entreprise de son propre savoir.
Évidemment, venant du premier fournisseur mondial de plateformes d’entreprise, l’argument n’est pas désintéressé. La vision d’un monde multi-modèles, orchestré par des plateformes capables d’accueillir modèles propriétaires, open source et IA internes tombe plus que bien pour Microsoft.
Mais le message a le mérite d’éviter le catastrophisme pour revenir à plus de pragmatisme.
Dario Amodei pose la bonne question : comment éviter que les capacités de l’IA progressent plus vite que notre capacité à les contrôler ?
Satya Nadella en ajoute une autre, tout aussi pertinente : qui contrôlera ceux qui prétendent contrôler l’IA ?
Finalement, une question, « Quis custodiet ipsos custodes« , que se posait déjà Juvénal (poète satirique romain de la fin du Ier et du début du IIe siècle) il y a 2000 ans de ça. Mais lui n’avait rien à vendre…
À LIRE AUSSI :
À LIRE AUSSI :
À LIRE AUSSI :
