التشريح البنيوي للنماذج اللغوية ذات الأوزان المفتوحة · GPT-2 → 2026
التشريح البنيوي للنماذج اللغوية مفتوحة الأوزان
يشريح هذا الأطلس معماريات 80 نموذجاً لغوياً كبيراً مفتوح الأوزان صدرت بين GPT-2 (2019) و2026. يسجّل البنية لا نتائج الاختبارات: كيف تطور الانتباه من متعدد الرؤوس إلى المجمّع والكامن متعدد الرؤوس والتصاميم الخطية الهجينة؛ وكيف حلّت مزائج الخبراء المتناثرة محل طبقات التغذية الأمامية المكثفة؛ وأي العمليات تبنّاها كل معمل ومتى. كل رقم قابل للتتبع حتى ملف config.json العام المرفق بالنموذج أو حتى نشرته الأصلية.
80نماذج في المجموعة
10المعمل
55MoE متناثر
2019–2026تاريخ الإصدار
تسع مداخل إلى المجموعة نفسها — اختر المنظور الذي يجيب عن سؤالك.
فهرس النماذج
فهرس قابل للترتيب لـ 80 بنية LLM مفتوحة الأوزان: المعاملات الكلية، المعاملات النشطة، نافذة السياق، نوع الانتباه، تخطيط MoE، الطبقات والرؤوس.
التطور
كيف تطور انتباه النماذج اللغوية من MHA إلى MQA وGQA وMLA والتصاميم الخطية الهجينة — مع الجدول الزمني لتبنّي كل عملية وأول المتبنّين.
تفكيك العمليات
كل عملية معمارية في المجموعة — الانتباه وMoE والتطبيع والموضع وجهزة الاستدلال — مع آليتها وعدد المتبنين وأول متبنٍّ مفتوح الأوزان والأدلة.
الخط الزمني
خريطة زمنية لإصدارات 80 نموذجاً لغوياً مفتوح الأوزان من 2019 إلى 2026، مرسومة حسب المعاملات الكلية وملوّنة حسب المعمل.
النسب
عائلات النماذج مجمّعة حسب المعمل: OpenAI وMeta وMistral وDeepSeek وQwen وGLM وKimi وMiniMax وStepFun وHunyuan.
التشابه
تشابه جيب التمام بين متجهات السمات المعمارية: فئة الانتباه، تخطيط MoE، التطبيع، ترميز الموضع، الحجم والسياق.
الأوراق البحثية
المنشورات الأصلية وراء كل أسلوب في الأطلس: Transformer وGQA وMLA وRoPE وYaRN وRMSNorm وSwiGLU وMixtral وDeepSeek-V2/V3 وغيرها.
متعدد الوسائط
النماذج ذات القدرة البصرية في المجموعة، محددة بموضوعية من حقول الرؤية الموجودة في ملف config.json العام.
مقارنة
قارن حتى أربع معماريات LLM جنباً إلى جنب: الانتباه، تخطيط MoE، الطبقات، السياق، الدقة وغيرها.
الخريطة
جميع النماذج الثمانين على خريطة واحدة: تاريخ الإصدار مقابل المعاملات الكلية (مقياس لوغاريتمي)، ملوّنة حسب المعمل.
جدار النماذج
كل نموذج في الأطلس ببطاقة: المعمل، التاريخ، المعاملات، فئة الانتباه وتخطيط MoE بنظرة واحدة.
مستكشف الإعدادات
استعرض ملف config.json العام الكامل لأي من النماذج الثمانين: كل الحقول، قابلة للبحث والنسخ.
اختبار
اختبر معرفتك بمعماريات النماذج اللغوية: تنويعات الانتباه، تخطيطات MoE، المعامل والأحجام — أسئلة مولّدة من مجموعة الأطلس.