DiffusionGemma

2026-06-10 · Éditeur : Google · Domaine : Intelligence Artificielle

Google DeepMind publie DiffusionGemma, un modèle ouvert expérimental de 26B (3,8B actifs) qui génère le texte par diffusion, jusqu'à quatre fois plus vite qu'un modèle autorégressif sur GPU dédié.

Google DeepMind publie DiffusionGemma, un modèle ouvert expérimental de 26B (3,8B actifs) qui génère le texte par diffusion, jusqu'à quatre fois plus vite qu'un modèle autorégressif sur GPU dédié. ### Ce qui change - Génère des blocs de 256 tokens en parallèle au lieu d'un token à la fois. - Plus de 1000 tokens par seconde sur un GPU NVIDIA H100 et plus de 700 sur une RTX 5090. - Attention bidirectionnelle et auto-correction itérative, utiles pour l'édition en ligne et le remplissage de code. - Qualité inférieure à Gemma 4 : Google recommande Gemma 4 pour la production. - Gain de vitesse valable surtout en inférence locale à faible concurrence. ### Caractéristiques - Architecture : dérivée de Gemma 4 26B A4B MoE (25,2B au total, 3,8B actifs) avec une tête de diffusion. - Contexte : jusqu'à 256K tokens ; entrées texte, image et vidéo, sortie texte. - Licence Apache 2.0 ; tient dans 18 Go de VRAM une fois quantifié. - Coupure des connaissances : janvier 2025. ### Tarifs Poids ouverts sous Apache 2.0, aucun tarif d'API. ### Benchmarks | Benchmark (model card, scores publiés par l'éditeur) | DiffusionGemma | Gemma 4 26B A4B | |---|---|---| | MMLU Pro | 77,6 % | 82,6 % | | AIME 2026 | 69,1 % | 88,3 % | ### À retenir Un modèle de recherche pour explorer la génération rapide en local ; à ne pas retenir pour des usages où la qualité prime.

Tags : LLM, Open Source, Google, Gemma, Diffusion