AP74 · Agent face au client sans responsable

Famille : Supervision, exploitation et gouvernance

Preuve forte

Noms d'origine : nobody owns the agent’s word

L’agent répond au nom de l’entreprise, invente une règle, et l’entreprise découvre qu’elle est engagée par ce qu’il a dit.

Définition

Un agent répond aux clients au nom de l’entreprise sans propriétaire désigné, sans ancrage sur les règles officielles, sans mention qu’il s’agit d’une IA et sans voie d’escalade.

Symptômes observables

  • Des réponses citent des règles absentes de la base documentaire, sans citation de source dans la trace.
  • Aucune mention « réponse générée par IA ».
  • Le propriétaire de l’agent est introuvable, et des plaintes ou des résiliations citent une règle « annoncée par le support ».

Pourquoi c'est nuisible

Le modèle comble les trous de connaissance par une règle plausible. Or l’entreprise répond de ce que dit son agent : un tribunal a refusé de le traiter comme une entité distincte.

Incidents publics

  • 2024-02-14 — Air Canada Le robot conversationnel d’Air Canada a annoncé à tort à un client un remboursement rétroactif au tarif de deuil. La compagnie soutenait que le robot était une entité juridique distincte, responsable de ses propres actes ; le tribunal a rejeté l’argument et l’a condamnée à environ 812 $ CA. La technologie du robot (LLM ou non) n’est pas précisée. Décision lue par des résumés, le site CanLII refusant l’accès.
  • 2025-04 — Cursor (Anysphere) L’agent de support « Sam », premier filtre des réponses par courriel, a inventé une règle d’une seule session par abonnement pour expliquer des déconnexions dues à un bogue ; des clients ont résilié. Correctif annoncé : Les réponses IA du support par courriel sont désormais clairement signalées comme telles (déclaration du cofondateur Michael Truell, relayée par Slashdot).

Remèdes du catalogue

  • C6 · Recherche agentique — Répondre à partir des règles officielles retrouvées, avec la citation de la règle dans la réponse et dans la trace.
  • F2 · Garde-fous en couches — Refuser de répondre quand aucune règle n’a été trouvée, plutôt que laisser le modèle en déduire une.
  • F1 · Humain dans la boucle — Escalader vers un humain les réponses qui engagent l’entreprise : remboursement, exception, règle commerciale.

Mesures hors catalogue

  • Nommer un propriétaire par agent, qui répond de ce que dit l’agent.
  • Afficher une mention IA visible sur chaque réponse générée.

Patterns détournés

Anti-patterns voisins

Sources

Contenu relu le 2026-10-05

Catalogue des anti-patterns