AP78 · Pas d’interrupteur ni de plafond de rayon d’impact

Famille : Supervision, exploitation et gouvernance

Preuve moyenne

Noms d'origine : no kill switch, no blast-radius cap

Impossible d’arrêter un agent précis en un geste, ou de limiter le nombre d’actions qu’il enchaîne.

Définition

On ne peut pas arrêter un agent ou une flotte d’agents en un geste, ni limiter le volume d’actions qu’ils enchaînent. Une faute se propage donc d’agent en agent.

Symptômes observables

  • Aucune commande ni aucun indicateur de fonctionnalité ne suspend un agent précis.
  • Aucun quota d’actions par agent et par période, et des appels sortants qui se multiplient sans limitation.
  • Révoquer les identifiants d’un agent est impossible sans toucher les autres (identité partagée).

Pourquoi c'est nuisible

Un agent planifie, garde son état et délègue. Une erreur peut contourner les contrôles humains étape par étape, persister dans l’état sauvegardé, puis se transmettre aux agents en aval. C’est le constat de l’OWASP (ASI08, défaillances en cascade ; ASI10, agents dévoyés), un cadre de bonnes pratiques et non une mesure.

Remèdes du catalogue

  • F5 · Budgets et coupe-circuits — Un interrupteur par agent et un interrupteur global, et des quotas d’actions par agent et par période, vérifiés par le code avant chaque appel.
  • F2 · Garde-fous en couches — Des coupe-circuits entre le planificateur et l’exécutant arrêtent une cascade avant qu’elle atteigne les outils.
  • F1 · Humain dans la boucle — Quand un plafond saute, le système se dégrade vers un humain ou un mode lecture seule plutôt que de continuer.

Mesures hors catalogue

  • Donner à chaque agent sa propre identité, révocable isolément.
  • Rejouer les actions de la semaine sur un jumeau de la production (OWASP ASI08).

Patterns détournés

Anti-patterns voisins

Sources

Contenu relu le 2026-10-05

Catalogue des anti-patterns