Dario Amodei : « We Must Pace the Frontier » (« Nous devons régler le rythme de la frontière »)

2026-09-12 · Éditeur : Anthropic · Domaine : Intelligence Artificielle

Le 12 septembre 2026, Dario Amodei, PDG d'Anthropic, publie l'essai « We Must Pace the Frontier » (« Nous devons régler le rythme de la frontière ») : ralentir les capacités des modèles pour laisser l'alignement avancer. Sam Altman et Elon Musk le soutiennent.

Ce qui change

  • Ralentir, pas arrêter : « Progress will still seem fast » (« Le progrès paraîtra toujours rapide »), mais il faut employer à bon escient le temps gagné.
  • Des évaluateurs tiers, avec un accès « employee-like » (« comparable à celui d'un employé »), vérifient les pratiques de sécurité et l'alignement des modèles.
  • Anthropic s'y engage unilatéralement, sans attendre ses concurrents.
  • Amodei appelle à une réglementation américaine visant tous les laboratoires de pointe, puis à une coordination internationale.
  • Sam Altman annonce qu'OpenAI fera de même ; Elon Musk répond « Dario is right » (« Dario a raison »).

### Contexte L'essai, publié un samedi sur le site de Dario Amodei, part du constat que l'IA promet des avancées médicales et de la croissance, mais comporte des risques sérieux : perte de contrôle, usages malveillants (cyberattaques, bioterrorisme) et bouleversements économiques. Sa thèse : « We must slow the pace at which we improve the capabilities of AI models. » (« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. »). Le « pacing » ne signifie pas interrompre l'entraînement des modèles, mais laisser aux entreprises le temps d'aligner et de sécuriser leurs modèles, et à des évaluateurs tiers de le confirmer. La proposition centrale : des évaluateurs externes avec un accès permanent aux laboratoires, pour vérifier les pratiques de sécurité, signaler les incidents et évaluer l'alignement des modèles. Anthropic écrit : « Anthropic is unilaterally committing to this step now » (« Anthropic s'engage unilatéralement à franchir cette étape dès maintenant »), avec des équipes de revue accueillies dans ses bureaux, des permissions d'outils comparables à celles des équipes internes de gestion des risques et un droit de publier leurs constats sans contrôle éditorial de l'entreprise. Le soir même, Sam Altman a écrit sur X : « I agree with Dario that we need to pace the frontier. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. » (« Je suis d'accord avec Dario : nous devons régler le rythme de la frontière. S'engager à avoir des évaluateurs indépendants avec un accès comparable à celui d'un employé est une excellente idée, et nous ferons de même. ») Elon Musk a publié : « Dario is right. » (« Dario a raison. ») ### À retenir L'engagement est pour l'instant volontaire : il est pris par Anthropic, et par OpenAI selon la déclaration de Sam Altman. L'essai demande aux pouvoirs publics de l'imposer à l'ensemble des laboratoires de pointe.

Liens

Tags : Sécurité IA, Alignement, Anthropic, Dario Amodei, OpenAI, Gouvernance, Évaluation