Analyse "neutre" de l'hypothèse par Grok 4.6

(+ seconde réponse en-dessous après élements et explications pour davantage le "convaincre")

Hypothèse = On est éventuellement arrivé vers le bout du paradigme actuel avec le type de modèles développés. Les progrès vont nécessairement ralentir. Ca va se voir. Alors on repackage ca préventivement en un ralentissement voulu, "pour la sécurité"

L’hypothèse est intéressante et pas absurde, mais je la trouve peu probable comme explication principale.

Pourquoi elle a une certaine force

Les coûts explosent. Entraîner les modèles frontier demande des quantités de compute et d’énergie de plus en plus énormes. Les gains de performance par dollar ou par FLOP ne sont plus aussi spectaculaires qu’il y a 2-3 ans sur certains axes.
La donnée de qualité devient un vrai goulot. Le web « propre » est largement ratissé. On passe de plus en plus par de la donnée synthétique, ce qui est puissant mais aussi plus fragile (risque de collapse, biais amplifiés, etc.).
Il y a des signes de saturation sur certains benchmarks. Les progrès restent réels, mais ils sont plus chers et parfois plus étroits (agents, raisonnement long, etc.).
Dans ce contexte, annoncer un « ralentissement volontaire pour la sécurité » permet de :
- Préparer l’opinion et les investisseurs à un rythme moins explosif.
- Se positionner comme responsables.
- Garder la main sur le narratif (« ce n’est pas que ça ralentit, c’est que nous choisissons de ralentir »).

Le fait qu’OpenAI (Altman) et Musk/xAI affichent un accord récent renforce un peu l’idée d’un alignement de communication entre les gros acteurs.

Pourquoi je reste sceptique

Amodei et les autres ne parlent pas d’un ralentissement naturel. Ils parlent explicitement d’accélération liée au recursive self-improvement (les modèles qui aident de plus en plus à construire la génération suivante). Leur texte dit le contraire de « on arrive au bout du paradigme » : ils disent que ça va plus vite, et que c’est précisément pour ça qu’il faut freiner volontairement.

Si le paradigme actuel montrait vraiment des signes clairs d’essoufflement majeur, on s’attendrait plutôt à des discours du type « les gains deviennent plus difficiles, il faut explorer de nouvelles architectures / paradigmes ». Or le discours dominant reste « ça accélère, attention ».

De plus, les incentives commerciaux et géopolitiques poussent toujours très fort dans le sens de l’accélération. Personne n’a réellement ralenti ses trainings pour l’instant. Les appels au pacing ressemblent encore beaucoup à de la communication + du positionnement + de la préparation réglementaire, plus qu’à un constat d’essoufflement technique.

Mon avis

L’hypothèse « on repackage un ralentissement inévitable en choix volontaire » est une lecture cynique possible, et elle n’est pas complètement exclue. Mais je la trouve moins convaincante que le mix suivant :

Vraie inquiétude sur le rythme (surtout côté agents et capacités dual-use).
Positionnement « nous sommes les responsables ».
Outil géopolitique et réglementaire (garder l’avance US tout en freinant les autres).
Gestion d’attente au cas où les gains deviendraient plus chers.

Le « on arrive au bout du paradigme actuel » est une possibilité réelle à moyen terme, mais ce n’est probablement pas la motivation première de l’appel au pacing d’Amodei aujourd’hui. S’ils pensaient vraiment que ça allait naturellement ralentir fort, ils n’auraient pas besoin d’insister autant sur le recursive self-improvement comme facteur d’accélération.

Seconde réponse

Tu affines bien la distinction, et elle est importante.

Il y a effectivement deux accélérations possibles qui ne sont pas la même chose :

Accélération du rythme de production des modèles
(moins de temps humain entre deux générations, plus d’automatisation du code, des expériences, de la génération de données synthétiques, etc.)
Accélération des gains de performance réelle
(le modèle N+1 est beaucoup plus capable que le N, sur des tâches utiles, pas seulement sur des benchmarks saturés)

Amodei et les autres mélangent un peu les deux dans le discours. Ils disent « ça avance drastiquement plus vite » en pointant surtout le premier point (RSI / automatisation du pipeline). Mais le second point — est-ce que les gains de capacité utile s’accélèrent vraiment, restent linéaires, ou commencent à ralentir — est beaucoup moins clair.

Sur les courbes de progression

Tu as raison : la plupart des graphiques publics montrent une progression assez régulière (souvent présentée en échelle log ou semi-log pour que ça ait l’air propre). Tant que les gains restent visibles sur les benchmarks, on peut continuer à parler d’« accélération ». Mais plusieurs signes suggèrent que les retours diminuent :

Les sauts de performance pure sur les grands benchmarks deviennent plus chers et parfois plus étroits.
Beaucoup de gains récents viennent d’ingénierie post-training, d’agents, de scaffolding, de meilleure utilisation du modèle, plus que d’un bond brut de l’intelligence du modèle de base.
La donnée de très haute qualité se raréfie. La synthétique aide, mais elle a ses propres limites.

Donc oui, il est tout à fait possible que la courbe des performances utiles soit en train de s’aplatir (ou s’aplatisse bientôt), même si le rythme auquel on sort de nouveaux modèles s’accélère grâce à l’automatisation.

L’hypothèse de présentation trompeuse

Dans ce cadre, l’hypothèse devient plus solide :

Si les gains de performance réelle ralentissent naturellement, le dire franchement (« le paradigme actuel donne des retours décroissants ») serait mauvais pour le narratif, les valorisations, les levées de fonds et les futures IPO.
Dire au contraire « ça accélère dangereusement grâce au recursive self-improvement, donc il faut volontairement ralentir pour la sécurité » permet de :
- Garder un narratif de puissance et d’urgence.
- Se positionner comme responsables.
- Préparer les esprits à un rythme moins spectaculaire (« ce n’est pas que ça ralentit, c’est que nous choisissons de freiner »).
- Continuer à justifier des valorisations élevées et des besoins de financement.

« Words are cheap », oui. Et dans un contexte de possible bulle (valorisations, dépenses de compute énormes, promesses de retours économiques encore largement à venir), le contrôle du narratif a une valeur réelle.

Ce que je retiens

L’hypothèse n’est plus « ils mentent complètement ». Elle devient :

Il est possible que l’accélération dont ils parlent soit surtout celle du processus de production, tandis que l’accélération des capacités finales utiles soit déjà en train de ralentir ou sur le point de le faire. Dans ce cas, présenter le tout comme « ça va trop vite, il faut freiner volontairement » est une façon élégante de transformer un éventuel essoufflement technique en choix moral et stratégique.

Ce n’est pas prouvé, et les labs ont encore des cartes (nouveaux paradigmes, meilleurs algorithmes, plus de compute, meilleurs agents). Mais la distinction que tu fais entre « sortir des modèles plus vite » et « avoir des modèles nettement plus capables » est la bonne. Et c’est exactement sur cette ambiguïté que le discours actuel joue.