AP28 · Erreurs gardées brutes, ou effacées

Famille : Contexte et mémoire

Preuve forte

Noms d'origine : self-conditioning on past errors

Chaque tentative ratée reste mot pour mot dans l’historique et en appelle d’autres, ou elle disparaît avec sa leçon.

Définition

Deux excès opposés : toutes les tentatives ratées restent mot pour mot dans l’historique de travail, sans résumé de la leçon, ou bien elles sont effacées et l’agent perd la trace de ce qui n’a pas marché.

Symptômes observables

  • Un taux d’erreur par étape qui augmente au fil de la tâche, et la même erreur reproduite.
  • Une nette amélioration après un redémarrage dans un contexte propre.
  • À l’inverse, une action ratée retentée à l’identique, faute d’en avoir gardé la trace.

Pourquoi c'est nuisible

Le modèle se conditionne sur ses sorties passées : plus l’historique contient d’erreurs, plus il en commet. Mais sans trace de l’échec, il ne peut pas s’adapter. Le dossier propose de garder la leçon et de compacter la trace brute.

Chiffres

  • Sinha et al. (ICLR 2026) injectent des erreurs dans l’historique : plus leur taux augmente, plus la précision au tour 100 se dégrade, et ce n’est pas un simple effet de longueur. Une fenêtre glissante limite l’effet.
  • Manus recommande au contraire de garder les erreurs dans le contexte, pour que l’agent ne répète pas l’action ratée. Les deux positions se concilient en gardant la leçon (lecture du dossier, pas des auteurs).

Remèdes du catalogue

  • D1 · Compaction — La compaction remplace les tentatives ratées par un message court qui garde la leçon : ce qui a été essayé, pourquoi cela a échoué.
  • D5 · Sous-agent d’isolation de contexte — Les tentatives risquées se font dans un sous-agent jetable, qui ne rend que son résultat ou la leçon de son échec.
  • D6 · Harnais longue durée — Après un faux départ, le harnais relance l’agent dans un contexte propre, à partir de l’état et des notes persistés.

Patterns détournés

Anti-patterns voisins

Sources

Contenu relu le 2026-10-05

Catalogue des anti-patterns