AP35 · Boucle sans borne ni budget
Famille : Boucle, arrêt et orchestration
Preuve forte
Noms d'origine : unbounded agentic loop, no stopping condition, unbounded consumption
Rien dans le code n’arrête l’agent : ni plafond de tours, ni budget, ni délai.
Définition
La boucle continue tant que le modèle ou un retour d’outil le décide : nouvelle tentative, nouvel appel d’outil, nouveau tour de conversation, nouveau passage de relais. La seule protection est une alerte de facturation, vue après coup.
Symptômes observables
- Des actions identiques, avec les mêmes arguments, se répètent dans les traces.
- Deux agents se renvoient la parole avec des messages presque identiques.
- Le coût par tâche a une longue traîne : quelques sessions coûtent des dizaines de fois la médiane.
- Aucune trace ne signale un budget atteint : le dépassement se découvre sur la facture.
Pourquoi c'est nuisible
Un modèle juge mal son propre blocage. Une erreur renvoyée sans compteur reproduit la même erreur, et chaque tour relit tout le contexte : le coût croît plus vite que le nombre de tours. Entre deux agents, aucun ne porte la condition d’arrêt.
Un choix défendable quand…
- Une exploration courte, surveillée en direct, sans effet de bord et sans budget partagé.
Chiffres
- Sur 68 boucles infinies confirmées dans 47 projets d’agents open source, aucune n’avait de borne imposée par le code (préprint de juillet 2026).
- Sur 1 642 traces de systèmes multi-agents, la répétition d’étapes explique 15,7 % des échecs et les conditions d’arrêt ignorées 12,4 %.
- Les premières versions du système de recherche d’Anthropic lançaient jusqu’à 50 sous-agents pour des questions simples et cherchaient sans fin des sources inexistantes.
Remèdes du catalogue
- F5 · Budgets et coupe-circuits — Des plafonds de tours, de tokens, de coût et de durée vérifiés avant chaque appel, un détecteur de répétition et un interrupteur.
- B6 · Graphe d’états sur mesure — Un graphe d’états avec un état final explicite, plutôt qu’une conversation libre.
- F1 · Humain dans la boucle — Au-delà d’un seuil d’échecs, un humain prend la main au lieu d’un nouveau tour.
Mesures hors catalogue
- Un compteur de tentatives par type d’erreur.
- Des alertes sur la dépense horaire plutôt que mensuelle.
Patterns détournés
Anti-patterns voisins
Sources
- When Agents Do Not Stop — Hou, Wang, Zhao et Wang, arXiv, 2026-07-02
- Why Do Multi-Agent LLM Systems Fail? — Cemri et al., arXiv, 2025-03-17
- How we built our multi-agent research system — Anthropic, 2025-06-13
Contenu relu le 2026-10-05