AP39 · Propagation sans validation
Famille : Boucle, arrêt et orchestration
Preuve forte
Noms d'origine : unchecked fan-out, cascading errors, unvalidated hand-offs
La sortie d’un agent devient l’entrée du suivant sans contrôle, et une erreur locale finit dans le livrable.
Définition
La sortie d’un agent est transmise telle quelle à l’agent suivant, ou fusionnée avec celles des autres, sans contrôle de format, de confiance ni de pertinence.
Symptômes observables
- L’erreur d’un sous-agent se retrouve recopiée dans le livrable final.
- Des sections d’un même livrable qui se contredisent.
- Aucune validation de schéma ni point de contrôle entre deux étapes.
- Des erreurs commises en amont, masquées par les agents en aval.
Pourquoi c'est nuisible
Les erreurs se composent : une sortie hors sujet ou mal formée devient la vérité d’entrée de l’étape suivante. Sans goulet de vérification, chaque erreur locale se propage, et sur une tâche séquentielle le découpage casse en plus les dépendances.
Chiffres
- Sur 260 configurations, des agents indépendants amplifient les erreurs 17,2 fois par propagation non contrôlée, contre 4,4 fois avec une coordination centralisée.
- Selon la tâche, l’effet de la coordination va de +80,8 % (raisonnement financier décomposable, coordination centralisée) à −70,0 % (planification séquentielle, agents indépendants).
- Sur 1 642 traces de systèmes multi-agents, la vérification absente ou incomplète explique 8,2 % des échecs, et la vérification erronée 9,1 %.
Remèdes du catalogue
- E1 · Orchestrateur et sous-agents — L’orchestrateur vérifie chaque retour de sous-agent avant la synthèse, au lieu de les fusionner tels quels.
- B1 · Chaîne séquentielle — Des portes de contrôle entre les étapes : une sortie qui ne passe pas la porte n’atteint pas l’étape suivante.
- A3 · Sortie structurée — Un schéma validé à chaque passage de relais : une réponse mal formée est rejetée au lieu d’être transmise.
- B5 · Générateur-évaluateur — Un évaluateur au point de fusion contrôle la cohérence de l’ensemble.
Mesures hors catalogue
- Des disjoncteurs entre agents, qui coupent la chaîne quand une réponse est peu sûre, mal formée ou hors sujet.
- Faire remonter les erreurs au lieu de les masquer, et corriger d’abord la première défaillance en amont.
Patterns détournés
Anti-patterns voisins
Sources
- Towards a Science of Scaling Agent Systems — Kim et al., arXiv, 2025-12
- Why Do Multi-Agent LLM Systems Fail? — Cemri et al., arXiv, 2025-03-17
- AI agent orchestration patterns — Microsoft, Azure Architecture Center, 2026-09-21
- AI Evals: Everything You Need to Know — H. Husain et S. Shankar, 2026-09-21
- Where LLM Agents Fail and How They can Learn From Failures — Zhu et al., arXiv, 2025-09-29
Contenu relu le 2026-10-05