AP42 · Multi-agent sans attribution ni provenance

Définition

Les données et les décisions circulent entre agents sans identifiant de l’agent producteur, de l’étape ni de la source.

Symptômes observables

• Impossible de dire quel agent a introduit une erreur ; le débogage passe par la relecture intégrale des échanges.
• Un livrable qui mêle sources fiables et non fiables sans marquage.

Pourquoi c'est nuisible

L’attribution automatique d’un échec est déjà difficile avec des traces complètes ; sans provenance, elle devient impossible, et les contrôles d’accès ne peuvent plus s’appliquer à la donnée.

Chiffres

• Sur les journaux d’échecs de 127 systèmes multi-agents (Who&When), la meilleure méthode automatique trouve l’agent fautif dans 53,5 % des cas, et l’étape fautive dans 14,2 % seulement (préprint).
• Sur 148 traces annotées (TRAIL), le meilleur modèle juge n’atteint que 11 % de précision conjointe pour localiser les erreurs : le diagnostic des traces ne peut pas reposer sur un juge LLM seul.

Remèdes du catalogue

• A3 · Sortie structurée — Les messages entre agents sont structurés et portent leur provenance : agent producteur, étape, source.
• E10 · État partagé (tableau noir) — Un état partagé journalisé, où chaque écriture est attribuée à l’agent qui l’a faite.
• G4 · Double LLM (et CaMeL) — Les valeurs issues de contenu non fiable restent marquées comme telles d’un agent à l’autre, comme dans CaMeL.

Mesures hors catalogue

• Des traces par agent et par outil, écrites par le harnais selon les conventions OpenTelemetry GenAI.
• Une lecture humaine régulière des traces, que ni un juge LLM ni une méthode automatique ne remplacent.

Patterns détournés

• E1 · Orchestrateur et sous-agents
• E7 · Essaim et réseau de pairs
• E9 · Bus de messages

Anti-patterns voisins

• AP39 · Propagation sans validation
• AP75 · Agent opéré à l’aveugle
• AP76 · Le récit de l’agent tient lieu de journal d’audit

Sources

• Which Agent Causes Task Failures and When? On Automated Failure Attribution of LLM Multi-Agent Systems — Zhang et al., arXiv, 2025-04-30
• TRAIL: Trace Reasoning and Agentic Issue Localization — Deshpande et al. (Patronus AI), arXiv, 2025-05-13
• New whitepaper outlines the taxonomy of failure modes in AI agents — Microsoft AI Red Team, 2025-04-24