Data / IA
Il est quand même gonflé, Dario !
Par Laurent Delattre, publié le 15 septembre 2026
Dario Amodei nous explique désormais que l’IA va trop vite, qu’elle pourrait bientôt échapper à notre contrôle et qu’il faut collectivement lever le pied. Fort bien.
Mais le patron d’Anthropic oublie un détail : personne ne l’oblige à appuyer sur l’accélérateur.
Dans un long texte publié ce week-end (cf. Pourquoi Dario Amodei (Anthropic) appelle à ralentir la course à l’IA), le patron d’Anthropic explique qu’il faut désormais « ralentir le rythme auquel nous améliorons les capacités des modèles d’IA ». Pourquoi ? Parce que l’auto-amélioration récursive commence à accélérer les progrès, parce que l’alignement ne suit plus le rythme, parce que les incidents s’accumulent et parce qu’un essaim d’agents beaucoup plus puissant que celui observé cet été pourrait, selon lui, devenir capable de prendre le contrôle d’une large partie d’Internet d’ici 6 mois. Rien que ça !
Le diagnostic mérite d’être pris très au sérieux. Celui qui le porte aussi. Dario Amodei connaît probablement mieux que quiconque les systèmes dont il parle.
C’est justement pour cela que sa conclusion pose problème.
Car après avoir expliqué que la voiture fonce vers le ravin, son plan consiste essentiellement à demander aux autres conducteurs, aux pouvoirs publics, aux Chinois et à quelques inspecteurs installés sur la banquette arrière de se mettre d’accord sur la pression à exercer sur la pédale de frein.
Pendant ce temps, Anthropic continue de conduire… à fond… direction droit dans le ravin.
La responsabilité ne se mutualise pas
Car Dario a un plan … en trois étages. D’abord installer durablement des évaluateurs indépendants au cœur des laboratoires, avec un accès comparable à celui de salariés. Ensuite coordonner les grands acteurs américains et occidentaux afin qu’ils ralentissent ensemble. Enfin, tenter une coordination internationale, notamment avec la Chine.
Anthropic s’engage unilatéralement sur le premier point. Pas sur le deuxième.
Et c’est notamment là que le bât blesse.
Si Dario Amodei estime réellement que poursuivre au rythme actuel représente un risque potentiellement catastrophique, il n’a pas besoin d’une loi votée par le Congrès pour ralentir Anthropic. Il n’a pas besoin de l’accord de Sam Altman. Il n’a pas besoin d’attendre Elon Musk, Demis Hassabis ou Xi Jinping. Il n’a même pas besoin de METR.
Il peut ralentir. Dès demain matin. C’est une décision de dirigeant.
Évidemment, ce serait économiquement douloureux. Anthropic risquerait de perdre du terrain face à OpenAI, Google, xAI ou aux laboratoires chinois. Sa valorisation pourrait souffrir. Ses investisseurs pourraient tousser. Ses clients pourraient aller voir ailleurs.
Mais c’est précisément ce que signifie assumer un risque que l’on qualifie soi-même de catastrophique : accepter que la sécurité coûte quelque chose.
Sinon, nous ne parlons plus de sécurité. Nous parlons d’optimisation concurrentielle de la sécurité. Et ce n’est pas du tout la même chose.
« Je ralentis si tout le monde ralentit »
Le raisonnement d’Amodei est intellectuellement compréhensible. Aucun laboratoire ne veut désarmer seul dans une course où le premier arrivé pourrait rafler une part gigantesque du marché et, peut-être, un avantage stratégique mondial.
Il le dit lui-même : il faut ralentir sans abandonner le leadership technologique américain. Son dispositif inclut d’ailleurs un renforcement des contrôles à l’exportation des puces vers la Chine et des mesures contre la distillation des modèles américains par les laboratoires chinois.
Le dirigeant d’Anthropic ne dit pas simplement : « nous allons moins vite parce que c’est dangereux ». Il dit en substance : trouvons un mécanisme permettant à tout le monde d’aller moins vite sans que nous perdions notre avantage.
C’est humain. C’est rationnel. C’est même probablement la seule façon réaliste d’obtenir un ralentissement durable de l’ensemble du secteur.
Mais ce n’est pas la même chose que prendre ses responsabilités.
On ne peut pas expliquer que l’incendie menace l’immeuble et conditionner l’usage de son extincteur au fait que les voisins sortent le leur en même temps.
Les évaluateurs ne conduisent pas la voiture
La proposition d’intégrer des évaluateurs indépendants comme METR au cœur des laboratoires est excellente. OpenAI s’est d’ailleurs rapidement engagé à suivre cette voie. Sam Altman a reconnu qu’il fallait lui aussi « pace the frontier » (apaiser la frontière). Elon Musk a approuvé l’alerte d’Amodei et les autres grands patrons de l’IA ont embrayé.
Super !
Mais ne mélangeons pas les responsabilités. Un évaluateur mesure. Il alerte. Il documente. Il conteste éventuellement les conclusions internes. Il ne dirige pas l’entreprise.
Confier davantage de pouvoir à METR ou à d’autres organismes est indispensable pour éviter que les laboratoires soient simultanément concepteurs, juges et greffiers de leurs propres expériences. Mais un évaluateur tiers ne doit surtout pas devenir le futur parapluie juridique ou moral du dirigeant. On voit d’ici l’excuse préinscrite entre les lignes de la lettre de Dario Amodei : « Nous avons poursuivi l’entraînement parce que l’évaluation ne nous interdisait pas de le faire ».
Car la décision finale restera chez Anthropic. Donc chez Dario Amodei et son conseil d’administration. Et la question devient alors beaucoup plus simple : quel niveau de risque doit conduire un laboratoire à dire stop ?
Microsoft rappelle que les labos ne sont pas propriétaires de la sécurité
La réaction de Microsoft est intéressante parce qu’elle déplace précisément le problème.
Satya Nadella soutient l’idée d’un développement plus délibéré, l’intervention d’évaluateurs externes et le maintien du contrôle humain. Mais il refuse implicitement que quelques laboratoires d’IA deviennent à eux seuls les architectes et les arbitres du régime qui doit encadrer leurs propres technologies.
Et il a raison sur ce point.
Car derrière la proposition d’Amodei se cache un autre risque : voir les acteurs qui ont déjà accumulé les milliards, les GPU, les meilleurs chercheurs et les modèles les plus avancés dessiner eux-mêmes le règlement qui déterminera demain qui aura encore le droit d’approcher la frontière.
La sécurité peut vite devenir une formidable barrière à l’entrée comme nous l’expliquions dans notre actualité : Pourquoi Dario Amodei (Anthropic) appelle à ralentir la course à l’IA.
Une réglementation extrêmement exigeante financièrement, techniquement et juridiquement est bien plus facile à absorber pour Anthropic, OpenAI, Google ou Microsoft que pour une startup, un laboratoire universitaire ou un nouvel acteur open source.
Autrement dit, même lorsqu’Amodei soulève un vrai problème, il n’est pas nécessaire de lui remettre les clés de la préfecture.
Et Pékin lui renvoie son paradoxe
La réaction chinoise est encore plus intéressante. Pas parce que Pékin serait soudain devenu le défenseur désintéressé d’une IA ouverte et universelle. La Chine défend évidemment ses propres champions et son accès aux technologies de pointe.
Mais parce qu’il suffit de regarder la proposition d’Amodei depuis Pékin pour mesurer sa fragilité politique.
Le Global Times, média soutenu par l’État chinois, accuse le patron d’Anthropic de ressortir un « manuel de guerre froide » et estime que derrière les préoccupations de sécurité se cache aussi une volonté de freiner le développement de l’IA chinoise par les barrières technologiques et réglementaires.
Le ministère chinois des Affaires étrangères s’est montré moins agressif, mais a appelé à une approche « ouverte, inclusive » et dénoncé la logique de confrontation et de compétition hostile dans laquelle s’est placée de lui-même Darion Amodei.
Propagande ? En partie, évidemment.
Mais Amodei leur tend lui-même le bâton.
Car il demande simultanément deux choses difficiles à concilier : coopérer avec la Chine pour ralentir collectivement les modèles les plus dangereux, tout en demandant aux États-Unis d’empêcher cette même Chine d’accéder aux puces les plus avancées et de durcir la lutte contre la distillation de modèles occidentaux.
Essayons d’imaginer une seconde cette négociation : « Nous pensons que cette technologie est tellement dangereuse que nous devons décider ensemble jusqu’où aller. Au fait, nous préférerions aussi que vous n’ayez pas les processeurs permettant d’y arriver. »
Diplomatiquement, on a connu entrée en matière plus subtile. La pilule n’est pas simple à faire passer… et à avaler.
Surtout, la réaction chinoise révèle le piège dans lequel Dario Amodei s’enferme lui-même. Il affirme que le risque est global et nécessite une gouvernance mondiale, mais continue de raisonner dans un cadre où le leadership américain doit absolument être préservé.
Or on ne bâtit pas facilement une coopération mondiale autour d’une technologie existentiellement dangereuse en expliquant simultanément que l’un des participants doit impérativement rester technologiquement derrière les autres.
Pékin instrumentalise évidemment cette contradiction. Justement parce qu’elle existe.
Sécurité ou géopolitique ? Il va falloir choisir
Sur le fond, Dario Amodei pratique un dangereux mélange des genres. S’il a raison sur le niveau de danger, alors la sécurité devrait primer sur la géopolitique. Peu importe que le modèle le plus puissant soit américain ou chinois : ce qui compte est d’empêcher qu’un système incontrôlable soit construit.
Mais si le maintien du leadership américain reste une condition impérative du ralentissement, alors nous ne sommes plus exactement dans une politique de réduction du risque existentiel. Nous sommes dans une stratégie de réduction du risque existentiel sous contrainte de compétitivité. Nuance. Et de cette nuance nait le plus grand risque. Celui de continuer d’accélérer « quoiqu’il en coûte ».
Préférant nier le risque – c’est son mantra – Donald Trump a rejeté les appels au ralentissement en ramenant immédiatement le débat sur son terrain favori : les États-Unis sont devant la Chine et doivent le rester, car « celui qui gagne l’IA, gagne tout ». Le discours a le mérite d’être beaucoup moins sophistiqué. Du Trump tout craché.
Mais il expose crûment le problème que Dario Amodei essaye de résoudre : tout le monde peut proclamer que la sécurité passe en premier jusqu’au moment où ralentir signifie laisser le concurrent avancer. Ce qui donne au final l’excuse qu’il fallait pour continuer, en refilant la responsabilité et la patate chaude aux… autres.
Dario confond clairvoyance et transparence
Il faut néanmoins rendre à Dario Amodei ce qui lui appartient. Anthropic publie beaucoup. Sur les comportements inattendus de Claude. Sur les usages cyber offensifs. Sur les détournements de ses modèles. Sur les problèmes d’alignement. Sur des incidents que d’autres auraient probablement préféré enterrer dans un rapport interne.
Cette transparence est rare. Et précieuse.
Mais la transparence n’est pas la clairvoyance. La transparence consiste à raconter précisément pourquoi la chaudière a explosé. La clairvoyance consiste à la couper lorsqu’on commence à sentir le gaz.
En publiant aujourd’hui un avertissement aussi spectaculaire, Dario Amodei prend un risque que personne ne lui pardonnera quand son IA déraillera : celui d’avoir transformé sa remarquable politique de transparence en dispositif de transfert de responsabilité.
Nous vous avions prévenus.
Nous avions demandé des évaluateurs.
Nous avions demandé une réglementation.
Nous avions demandé aux concurrents de ralentir.
Nous avions demandé à Washington d’intervenir.
Nous avions même demandé aux Chinois de coopérer.
Mais personne n’a rien fait…
Okay… Mais la seule question qui compte vraiment aujourd’hui c’est ce qu’Anthropic va faire, va décider. Montrer l’exemple et rallier les opinions à sa cause ? Si Dario Amodei pense sincèrement que ses équipes peuvent produire dans quelques mois une technologie dont elles ne garantissent plus le contrôle, il existe une mesure de sécurité extrêmement rudimentaire qui ne nécessite ni traité international, ni exemption antitrust, ni commission parlementaire :
Il suffit de ne pas la construire. C’est encore mieux que de ne pas la laisser sortir du labo quand on n’est pas sûr de savoir la contrôler.
Soyons clairs, le monde peut attendre. Chacun de nous peut attendre encore quelques mois, voire quelques années, l’arrivée d’un nouveau modèle censé nous rapprocher de l’AGI. Surtout si, comme l’affirme Jacob Coxon (chercheur d’Anthropic récemment démissionnaire), « ceux qui construisent l’IA pensent sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. »
Dario, je te le dis, dans de telles conditions, on peut tous attendre un peu… voire très longtemps ! Elles sont déjà super tes IA telles qu’elles sont.
Et si Anthropic considère qu’elle ne peut pas se permettre de le faire tant que ses concurrents continuent, alors Dario vient peut-être de décrire le problème le plus inquiétant de toute l’industrie de l’IA.
Pas des machines devenues incontrôlables.
Des hommes qui savent qu’il faudrait freiner, mais qui attendent que quelqu’un d’autre le fasse à leur place.
À LIRE AUSSI :
À LIRE AUSSI :
