الخط الزمني للإصدارات
كل إصدار مفتوح الأوزان في المجموعة، مرسوم حسب تاريخ الإصدار (المحور الأفقي) والمعاملات الكلية على مقياس لوغاريتمي (المحور الرأسي). تُظهر الفترة 2024–2026 تحوّل الصناعة بأكملها نحو مزائج الخبراء المتناثرة: المعاملات الكلية تنمو بأعداد هائلة بينما تبقى المعاملات النشطة لكل رمز صغيرة.
- GPT-2 OpenAI · 1.24 مليار · MHA
- GPT-3 175B (paper) OpenAI · 175 مليار · MHA
- LLaMA 1 7B Meta · 6.74 مليار · MHA
- Llama 2 70B Meta · 68.98 مليار · GQA
- Mistral 7B Mistral · 7.24 مليار · GQA
- ChatGLM3 6B GLM · 6.2 مليار · GQA
- DeepSeek-Coder 6.7B DeepSeek · 6.7 مليار · MHA
- DeepSeek LLM 7B DeepSeek · 5.9 مليار · MHA
- DeepSeekMoE 16B DeepSeek · 16.2 مليار · MHA · MoE
- Qwen1.5 7B Qwen · 6.6 مليار · MHA
- Mixtral 8x22B Mistral · 140.6 مليار · GQA · MoE
- DeepSeek-V2 DeepSeek · 236 مليار · MLA · MoE
- DeepSeek-V2 Lite DeepSeek · 15.6 مليار · MLA · MoE
- GLM-4 9B GLM · 9.4 مليار · GQA
- Qwen2 72B Qwen · 71.4 مليار · GQA
- Llama 3.1 70B Meta · 70.55 مليار · GQA
- Llama 3.1 8B Meta · 8.03 مليار · GQA
- Qwen2.5 72B Qwen · 71.4 مليار · GQA
- Qwen2.5 7B Qwen · 7.6 مليار · GQA
- DeepSeek-V3 DeepSeek · 671 مليار · MLA · MoE
- DeepSeek-V3 Base DeepSeek · 671 مليار · MLA · MoE
- DeepSeek-R1 DeepSeek · 671 مليار · MLA · MoE
- MiniMax-Text-01 MiniMax · 456 مليار · GQA · MoE
- Moonlight 16B Kimi · 15.8 مليار · MLA · MoE
- Qwen3 0.6B Qwen · 0.6 مليار · GQA
- Qwen3 235B A22B Qwen · 234.6 مليار · GQA · MoE
- Qwen3 30B A3B Qwen · 30.4 مليار · GQA · MoE
- Qwen3 32B Qwen · 32.1 مليار · GQA
- Qwen3 8B Qwen · 7.9 مليار · GQA
- MiniMax-M1 MiniMax · 456 مليار · GQA · MoE
- GLM-4.5 GLM · 360.4 مليار · GQA · MoE
- GLM-4.5-Air GLM · 107.7 مليار · GQA · MoE
- Kimi K2 Base Kimi · 1040.2 مليار · MLA · MoE
- Step-3 StepFun · 321 مليار · MHA · MoE
- DeepSeek-V3.1 DeepSeek · 671 مليار · MLA · MoE
- Hunyuan 7B Hunyuan · 7.8 مليار · GQA
- GPT-OSS 120B OpenAI · 116.8 مليار · GQA · MoE
- GPT-OSS 20B OpenAI · 20.9 مليار · GQA · MoE
- DeepSeek-V3.2 DeepSeek · 671 مليار · MLA · MoE
- Kimi K2 0905 Kimi · 1040.2 مليار · MLA · MoE
- Qwen3-Next 80B A3B Qwen · 78.7 مليار · GQA · MoE
- GLM-4.6 GLM · 360.4 مليار · GQA · MoE
- Kimi Linear 48B A3B Kimi · 50 مليار · MLA · MoE
- MiniMax-M2 MiniMax · 228.3 مليار · GQA · MoE
- GLM-4.7-Flash GLM · 29.4 مليار · MLA · MoE
- Qwen3-Coder-Next Qwen · 78.7 مليار · GQA · MoE
- GLM-5 GLM · 744 مليار · MLA · MoE
- Kimi K2.5 Kimi · 1040.2 مليار · MLA · MoE
- MiniMax-M2.5 MiniMax · 228.3 مليار · GQA · MoE
- Qwen3.5 122B A10B Qwen · 119.9 مليار · GQA · MoE
- Qwen3.5 27B Qwen · 23.7 مليار · GQA
- Qwen3.5 35B A3B Qwen · 33.9 مليار · GQA · MoE
- Qwen3.5 397B A17B Qwen · 392.6 مليار · GQA · MoE
- Qwen3.5 9B Qwen · 7.9 مليار · GQA
- Qwen3.5 9B Base Qwen · 7.9 مليار · GQA
- Step-3.5-Flash StepFun · 196 مليار · MHA · MoE
- DeepSeek-V4-Flash DeepSeek · 284 مليار · MQA · MoE
- DeepSeek-V4-Flash Base DeepSeek · 284 مليار · MQA · MoE
- DeepSeek-V4-Pro DeepSeek · 1606.6 مليار · MQA · MoE
- GLM-5.1 GLM · 744 مليار · MLA · MoE
- Hunyuan 3 Preview Hunyuan · 296.3 مليار · GQA · MoE
- Hunyuan 3 Preview Base Hunyuan · 296.3 مليار · GQA · MoE
- Kimi K2.6 Kimi · 1040.2 مليار · MLA · MoE
- MiniMax-M2.7 MiniMax · 228.3 مليار · GQA · MoE
- Qwen3.6 27B Qwen · 23.7 مليار · GQA
- Qwen3.6 35B A3B Qwen · 33.9 مليار · GQA · MoE
- Hunyuan-TurboS 30B A3B Hunyuan · 30.3 مليار · GQA · MoE
- Hunyuan-TurboS 7B Hunyuan · 7.8 مليار · GQA
- Step-3.7-Flash StepFun · 198 مليار · MHA · MoE
- GLM-5.2 GLM · 767.4 مليار · MLA · MoE
- MiniMax-M3 MiniMax · 443.4 مليار · GQA · MoE
- MiniMax-M3 MXFP8 MiniMax · 443.4 مليار · GQA · MoE
- Hunyuan 3 Hunyuan · 296.3 مليار · GQA · MoE
- Kimi K3 Kimi · 2780 مليار · MLA · MoE
- GLM-5.3 GLM · 767.4 مليار · MLA · MoE
- GLM-5.3-Flash GLM · 328.9 مليار · MLA · MoE
- Hunyuan 4 Preview Hunyuan · 770 مليار · MLA · MoE
- Qwen3.8 2.4T A95B Qwen · 2399.6 مليار · GQA · MoE
- Qwen3.8 27B Qwen · 23.7 مليار · GQA
- Qwen3.8-Flash-Next Qwen · 123.6 مليار · GQA · MoE