Kimi K2

2025-07-11 · Éditeur : Moonshot AI · Domaine : Intelligence Artificielle

Moonshot AI publie Kimi K2, un modèle MoE de 1000 milliards de paramètres (32 milliards actifs) à poids ouverts sous licence MIT modifiée, entraîné avec l'optimiseur MuonClip et conçu pour les usages agentiques.

Moonshot AI publie Kimi K2, un modèle MoE de 1000 milliards de paramètres (32 milliards actifs) à poids ouverts sous licence MIT modifiée, entraîné avec l'optimiseur MuonClip et conçu pour les usages agentiques. ### Contexte En juillet 2025, les modèles ouverts les plus grands (DeepSeek-V3, Qwen3) restent nettement sous les modèles fermés en codage agentique. Moonshot AI prolonge Moonlight (Muon) à l'échelle du trillion de paramètres. Une mise à jour, Kimi-K2-Instruct-0905, porte ensuite le contexte à 256K et améliore le codage agentique : elle est regroupée dans cette fiche. ### Ce que le modèle apporte - MoE ouvert de 1 trillion de paramètres avec 32 milliards actifs, pré-entraîné sur 15,5 T tokens. - Optimiseur MuonClip : Muon associé à qk-clip, qui rééchelonne les matrices de requêtes et de clés pour contrôler l'explosion des logits d'attention ; l'éditeur annonce un entraînement sans pic d'instabilité. - Optimisation pour l'usage d'outils : le modèle est décrit comme un modèle « réflexe » sans longue réflexion, qui agit plutôt qu'il ne répond. - Deux publications : Kimi-K2-Base (fondation) et Kimi-K2-Instruct (post-entraîné). - Rapport technique sur arXiv 2507.20534 (28 juillet 2025). ### Architecture et caractéristiques MoE de 1T paramètres au total et 32B actifs, 61 couches (dont 1 dense), 384 experts dont 8 sélectionnés par token et 1 partagé, attention MLA, activation SwiGLU, vocabulaire de 160K, contexte de 128K (256K pour la mise à jour 0905). Texte uniquement. Licence : MIT modifiée (usage commercial libre ; obligation d'afficher « Kimi K2 » dans l'interface au-delà de 100 millions d'utilisateurs actifs mensuels ou de 20 millions de dollars de revenu mensuel). Poids : huggingface.co/moonshotai/Kimi-K2-Instruct. ### Coût et accès | Élément | Tarif (USD par million de tokens) | |---|---| | Entrée (cache manqué) | 0,60 | | Entrée (cache touché) | 0,15 | | Sortie | 2,50 | Tarifs relevés auprès de sources secondaires (la page tarifs officielle a retiré la série kimi-k2, arrêtée le 25 mai 2026 selon la documentation de la plateforme). Matériel d'auto-hébergement : non communiqué dans la carte du modèle. ### Benchmarks Kimi-K2-Instruct (sans réflexion étendue) comparé à des modèles fermés sans réflexion étendue. Scores publiés par l'éditeur dans la carte du modèle. | Benchmark | Kimi K2 | Claude Sonnet 4 | Claude Opus 4 | GPT-4.1 | |---|---|---|---|---| | SWE-bench Verified (agentique, 1 essai) | 65,8 | 72,7 | 72,5 | 54,6 | | LiveCodeBench v6 | 53,7 | 48,5 | 47,4 | 44,7 | | AIME 2025 (Avg@64) | 49,5 | 33,1 | 33,9 | 37,0 | | GPQA-Diamond | 75,1 | 70,0 | 74,9 | 66,3 | | MMLU | 89,5 | 91,5 | 92,9 | 90,4 | | Tau2 telecom | 65,8 | 45,2 | 57,0 | 38,6 | Source : carte Hugging Face de Kimi-K2-Instruct (mesures de l'éditeur ; certaines valeurs des concurrents reprises de leurs publications). ### Face aux modèles fermés Sur ce tableau, K2 devance GPT-4.1 sur cinq des six tests listés (tous sauf MMLU) et dépasse Claude Sonnet 4 et Opus 4 sur LiveCodeBench, AIME 2025 et Tau2 telecom. Il reste derrière Claude Sonnet 4 et Opus 4 sur SWE-bench Verified agentique (65,8 contre 72,7 et 72,5) et sur MMLU. La comparaison porte sur des modèles fermés sans réflexion étendue, pas sur les modèles de raisonnement. Côté prix, l'API est à 0,60 USD en entrée et 2,50 USD en sortie (sources secondaires), et les poids permettent l'auto-hébergement, ce qui répond à un besoin de souveraineté, au prix d'une infrastructure d'un trillion de paramètres. ### À retenir Kimi K2 fait entrer les modèles ouverts dans la catégorie du trillion de paramètres avec une licence commerciale permissive. Pour les entreprises, il offre une base ouverte crédible en codage agentique, à condition de disposer d'une infrastructure adaptée.

Tags : LLM, Open Source, Moonshot AI, Kimi, MoE, MIT modifiée, Agentique