L'OWASP publie l'édition 2025 de son Top 10 des risques pour les applications LLM

2024-11-17 · Éditeur : OWASP · Domaine : Cybersécurité

Le projet OWASP consacré à l'IA générative met à jour son classement des risques des applications à base de LLM, avec des entrées nouvelles sur les fuites de prompt système, les bases vectorielles et la consommation non bornée.

### Contexte Le 17 novembre 2024, l'**OWASP Foundation** annonce la version 2025 du **Top 10 pour les applications LLM et d'IA générative**, référence communautaire pour sécuriser le développement, le déploiement et l'exploitation de ces applications. L'annonce lance aussi un programme de parrainage du projet. ### Caractéristiques - Nouvelle entrée **System Prompt Leakage** (fuite du prompt système), ajoutée à la suite d'exploitations réelles. - Entrée **Vector and Embedding Weaknesses** consacrée à la sécurité du RAG et des méthodes fondées sur les embeddings. - **Unbounded Consumption** remplace et élargit le déni de service : gestion des ressources et coûts imprévus. - **Excessive Agency** est étendue aux architectures d'agents plus autonomes. - Selon l'OWASP, plus de 500 experts ont contribué ; la communauté dépasse 5 500 membres et plus de 110 entreprises soutiennent le projet. ### Pourquoi c'est important Ce classement sert de grille commune aux équipes de développement, aux auditeurs et aux acheteurs pour évaluer une application d'IA générative. Il structure les revues de code, les tests d'intrusion et les cahiers des charges des projets LLM. ### À retenir L'édition 2025 fait entrer le RAG, les coûts et les agents dans la check-list de sécurité de toute application LLM.

Tags : Sécurité de l'IA, LLM, Référentiel