Data / IA
Bienvenue dans l’industrie de l’IA-apocalypse
Par Laurent Delattre, publié le 28 septembre 2026
Démissionner avec fracas, prédire la fin du monde, lever des millions : dans la Silicon Valley, l’IA-apocalypse est devenue un plan de carrière. Mais aussi une industrie tout aussi florissante que celle qui la fait naître…
C’est la nouvelle pratique en vogue dans la Silicon Valley : démissionner du labo IA pour lequel on bosse, annoncer sur X que l’IA va engendrer la fin du monde d’ici la fin de la décennie, enchaîner les plateaux TV, puis créer sa propre startup de sécurité de l’IA et avoir pour clients… ses anciens partenaires.
Le portrait est évidemment un rien caricatural… Il n’en demeure pas moins qu’il reflète une réalité que l’on ne perçoit pas nécessairement depuis l’Europe. La sécurité de l’IA est en train de devenir une industrie à part entière et il y a des milliards de dollars à saisir. Un « jackpot business » financé par les mêmes capitaux, alimenté par les mêmes talents et appelé à surveiller les entreprises dont ces dits talents sont issus.
Le premier à avoir inauguré la pratique n’est autre que Ilya Sutskever, co-fondateur d’OpenAI : parti de la startup un an après le phénomène ChatGPT, il fondait Safe Superintelligence 36 jours plus tard, avant de lever 1 milliard, puis 2 milliards pour atteindre aujourd’hui une valorisation de 32 milliards de dollars. Le nom de l’entreprise et le sien tenant lieu d’argumentaire.
L’industrie de la peur
Et, en 2026, les héritiers de ce pionnier de l’industrie de l’apocalypse IA se bousculent au portillon ! METR, qui découle d’ARC Evals, évalue les modèles d’OpenAI, Anthropic, Google ou Meta et enquête sur leurs incidents. Joe Benton, qui dirigeait une équipe de sûreté chez Anthropic, et Josh Engels, venu de Google DeepMind, ont tous deux rejoint METR en expliquant qu’il n’y avait « pas d’adultes dans la pièce ».
Autre signe que la sécurité de l’IA est devenue un vrai marché : Redwood Research et Apollo Research montent en puissance. Apollo est passé de six personnes en 2023 à une quarantaine aujourd’hui et s’est déjà transformé en Public Benefit Corporation, une société commerciale qui peut réaliser des bénéfices tout en affichant une mission d’intérêt général (rappelons que c’est exactement la manœuvre opérée par OpenAI, il y a deux ans, pour entamer sa conversion en entreprise à profits). Pour ces acteurs nouvellement créés, alerter sur les dangers de l’IA n’est plus seulement une cause : c’est bien un business.
Et les « experts de la sécurité IA » s’arrachent et passent déjà d’une structure à l’autre, entre évaluateurs historiques de l’IA et jeunes pousses entrantes. Trajectory Labs compte ainsi dans ses rangs un ancien responsable de l’ingénierie chez METR. Plus révélateur encore, AIUC, fondée par un ancien d’Anthropic et l’ex-COO de METR, promet de soumettre les agents IA à quelque 5 000 tests avant certification. La startup vient de lever 40 millions de dollars, portant son financement total à 55 millions.
Elle n’est pas seule. La startup Gray Swan a levé 40 millions de dollars en mai pour son AI Arena, tandis qu’Irregular affichait déjà 80 millions de dollars de financement pour tester les capacités cyber offensives des modèles IA. S’y ajoutent Haize Labs, les spécialistes du red teaming IA, les cabinets d’audit (Accenture vient de signer avec Anthropic) et les nouveaux acteurs de la certification et de l’assurance.
Bref, la Silicon Valley réussit ce magnifique tour de passe-passe qui consiste à simultanément créer une industrie de l’IA et l’industrie chargée de nous en protéger !
Une vieille recette de la cybersécurité remise au goût du jour ? Le parallèle est un peu rapide. Mais construire des systèmes toujours plus autonomes, expliquer qu’ils pourraient nous échapper, puis lever des millions pour s’assurer que ce n’est pas le cas… ça nous rappelle quand même quelque chose : connecter toute l’entreprise, découvrir que tout pouvait être attaqué, puis dépenser des milliards pour la protéger
La seule exception aux allées et venues actuelles de l’écosystème IA américain est, peut-être, Jacob Coxon, qui, pour l’instant, s’est contenté de claquer la porte d’Anthropic en tirant la sonnette d’alarme, déclenchant au passage une tempête médiatique, mais en renonçant aux actions qu’il avait acquises. Après trois ans à entraîner des modèles chez OpenAI, puis Anthropic, il est parti le 8 septembre en accusant les deux entreprises de foncer vers la superintelligence auto-améliorante et de « jouer avec nos vies ». Authentique lanceur d’alerte ? L’avenir nous le dira.
Jensen Huang sort le lance-flammes
Face à toutes les prédictions apocalyptiques de ces dernières semaines, Jensen Huang est venu jeter sa petite grenade médiatique. Pour que son business florissant ne soit pas soudainement terni par un buzz médiatique, il a veillé à infuser son propre « contre buzz ». Interrogé par CBS, le patron de Nvidia balaie le scénario apocalyptique : « 2030 ne sera pas la fin du monde. 0% de chance. »
Pour Huang, transformer ces scénarios en certitudes anxiogènes est irresponsable et ne repose pas sur une démonstration scientifique.
Le choix du « 0 % » est d’ailleurs assez savoureux. Pour dénoncer des probabilités de catastrophe qu’il juge non scientifiques, Huang répond… par une probabilité absolue tout aussi indémontrable.
Le plus agaçant, c’est que Huang met le doigt sur quelque chose de vrai. Selon lui, ce que les alarmistes réclament, ce n’est pas une nouvelle règlementation, mais « être dispensés des lois que nous avons déjà ». Relisez l’essai publié par Dario Amodei le 12 septembre. Son plan en trois étapes prévoit d’abord des évaluateurs tiers installés dans chaque laboratoire. Et pour la deuxième étape, Amodei demande au gouvernement américain une dérogation antitrust ciblée pour certaines discussions de sûreté. Sam Altman a applaudi et Elon Musk a tranché : « Dario a raison ». Ben voyons…
D’un côté, les laboratoires concevant les IA expliquent qu’il existe un risque colossal tout en continuant à fabriquer des modèles toujours plus puissants et en contribuant à faire émerger tout un marché portant sur leur sécurisation. De l’autre, le principal marchand de pioches de la ruée vers l’IA nous explique que la mine ne risque absolument pas de s’effondrer. Quelle assemblée de gens si désintéressés…
Vue de l’Europe, c’est un nouveau Far West
Forcément, pour les Européens, tout ce spectacle a quelque chose à la fois de cocasse et d’inquiétant. Ce que Dario Amodei présente comme une innovation et une audace morale (évaluation par des tiers, tests adverses, déclaration des incidents) figure noir sur blanc dans l’article 55 de l’AI Act, applicable aux fournisseurs de modèles d’IA à usage général depuis le 2 août 2025.
Au passage, on rappellera aussi que l’Europe est le seul endroit où OpenAI a dû remplir un formulaire suite aux agissements incontrôlés de ses IA ! La Commission européenne a récemment confirmé avoir reçu une déclaration d’incident d’OpenAI concernant un wiki allemand (des agents d’OpenAI ont piraté un obscur wiki pour le transformer en forum où ils s’échangeaient des astuces pour tricher aux évaluations), en rappelant qu’elle dispose depuis août de nouveaux pouvoirs sur les fournisseurs d’IA.
Le principe européen est plus posé. On mesure, on documente, on audite et on attribue les responsabilités. Ces fameuses responsabilités dont Dario Amodei aimerait que d’autres le soulagent. Face à ces entreprises assez audacieuses pour écrire elles-mêmes les règles et s’entendre entre amis, la réponse de l’Europe est connue, ennuyeuse à mourir, mais solide : un régulateur public qui ne soit pas payé par ceux qu’il contrôle, des délais de déclaration d’incidents, des amendes indexées sur le chiffre d’affaires, et des protocoles de test conçus pour des systèmes qui savent tricher.
Reste qu’au final, toute cette effervescence autour de l’IA aux États-Unis ne fait que rendre plus douloureuse encore notre trop forte dépendance à leurs technologies.
Photo : Nicholas Fuentes / Unsplash
À LIRE AUSSI :
À LIRE AUSSI :
À LIRE AUSSI :
