G3 · Map-reduce isolé
Famille : Sécurité par conception
Chaque donnée non fiable est traitée par une instance isolée dont la sortie est contrainte, puis les résultats sont agrégés.
Principe
Chaque donnée non fiable passe dans une instance de LLM isolée (map), qui ne peut répondre que dans un format contraint : un booléen, une valeur d’une liste. Les sorties contraintes sont ensuite agrégées (reduce). Un document piégé ne contamine pas les autres, et sa sortie reste bornée par le format.
Le problème qu'il résout
Quand un agent lit beaucoup de documents d’origine inconnue, un seul peut contenir une instruction qui détourne tout le traitement.
Quand l'utiliser
- Tri, filtrage ou classement de documents non fiables, comme le tri de CV : bon compromis entre sécurité et utilité.
Quand l'éviter
- La tâche demande de raisonner en croisant plusieurs documents : la sortie contrainte de chaque instance est trop pauvre. Préférer le double LLM (G4).
- La sortie d’une instance est à format libre : sans contrainte, l’isolation protège beaucoup moins.
Synonymes par éditeur
- LLM Map-Reduce (Beurer-Kellner et al. (2025))
Patterns voisins
Sources
- Design Patterns for Securing LLM Agents against Prompt Injections — Beurer-Kellner et al. (14 auteurs), arXiv, 2025-06
Contenu relu le 2026-10-02