التشابه البنيوي

يُرمَّز كل نموذج كمتجه سمات: فئة الانتباه، تخطيط MoE، التطبيع، ترميز الموضع، دالة التنشيط، الدقة، إضافة إلى الحجم والسياق بمقياس لوغاريتمي. يكشف تشابه جيب التمام بين هذه المتجهات «الأشقاء البنيويين»: نماذج اتخذت الرهانات البنيوية نفسها عند أحجام مختلفة.

المنهجية

تُبنى المتجهات من ترميز one-hot للخيارات الفئوية (فئة الانتباه، التطبيع، ترميز الموضع، التنشيط، الدقة) مع سمات لوغاريتمية مطبعة (المعاملات الكلية، طول السياق، الطبقات، البعد المخفي). التشابه هو جيب التمام؛ فهو يقيس الشبه البنيوي لا القدرة.

خريطة التشابه الحرارية

01 الصفوف والأعمدة نماذج مجمّعة حسب المعمل؛ اللون الأغمق يعني تشابهاً أكبر. مرّر المؤشر لعرض القيم الدقيقة.

تتراوح درجات التشابه من 0 (لا سمات فئوية مشتركة) إلى 1 (ملفات بنيوية متطابقة).

درجة التشابه > 0.93

النموذج A		النموذج B		درجة التشابه
DeepSeek-V3	DeepSeek	DeepSeek-V3 Base	DeepSeek	1.000
DeepSeek-V3	DeepSeek	DeepSeek-R1	DeepSeek	1.000
DeepSeek-V3	DeepSeek	DeepSeek-V3.1	DeepSeek	1.000
DeepSeek-V3	DeepSeek	DeepSeek-V3.2	DeepSeek	1.000
DeepSeek-V3 Base	DeepSeek	DeepSeek-R1	DeepSeek	1.000
DeepSeek-V3 Base	DeepSeek	DeepSeek-V3.1	DeepSeek	1.000
DeepSeek-V3 Base	DeepSeek	DeepSeek-V3.2	DeepSeek	1.000
DeepSeek-R1	DeepSeek	DeepSeek-V3.1	DeepSeek	1.000
DeepSeek-R1	DeepSeek	DeepSeek-V3.2	DeepSeek	1.000
DeepSeek-V3.1	DeepSeek	DeepSeek-V3.2	DeepSeek	1.000
GLM-5	GLM	GLM-5.1	GLM	1.000
DeepSeek-V4-Flash	DeepSeek	DeepSeek-V4-Flash Base	DeepSeek	1.000
Hunyuan 3 Preview	Hunyuan	Hunyuan 3 Preview Base	Hunyuan	1.000
Hunyuan 3 Preview	Hunyuan	Hunyuan 3	Hunyuan	1.000
Hunyuan 3 Preview Base	Hunyuan	Hunyuan 3	Hunyuan	1.000
MiniMax-M3	MiniMax	MiniMax-M3 MXFP8	MiniMax	1.000
Qwen2 72B	Qwen	Qwen2.5 72B	Qwen	1.000
Kimi K2 0905	Kimi	Kimi K2.5	Kimi	1.000
Kimi K2 0905	Kimi	Kimi K2.6	Kimi	1.000
Qwen3-Next 80B A3B	Qwen	Qwen3-Coder-Next	Qwen	1.000
Kimi K2.5	Kimi	Kimi K2.6	Kimi	1.000
Qwen3.5 9B	Qwen	Qwen3.5 9B Base	Qwen	1.000
Qwen3.6 27B	Qwen	Qwen3.8 27B	Qwen	1.000
MiniMax-Text-01	MiniMax	MiniMax-M1	MiniMax	1.000
GLM-5.2	GLM	GLM-5.3	GLM	1.000
MiniMax-M2	MiniMax	MiniMax-M2.5	MiniMax	1.000
GLM-5.2	GLM	Hunyuan 4 Preview	Hunyuan	1.000
GLM-5.3	GLM	Hunyuan 4 Preview	Hunyuan	1.000
Qwen3 30B A3B	Qwen	Hunyuan-TurboS 30B A3B	Hunyuan	1.000
Step-3.5-Flash	StepFun	Step-3.7-Flash	StepFun	1.000
MiniMax-M2	MiniMax	MiniMax-M2.7	MiniMax	1.000
MiniMax-M2.5	MiniMax	MiniMax-M2.7	MiniMax	1.000
Mistral 7B	Mistral	Hunyuan 7B	Hunyuan	1.000
GLM-4.5	GLM	GLM-4.6	GLM	1.000
Qwen3 8B	Qwen	Hunyuan 7B	Hunyuan	1.000
Kimi K2 Base	Kimi	Kimi K2 0905	Kimi	1.000
Kimi K2 Base	Kimi	Kimi K2.5	Kimi	1.000
Kimi K2 Base	Kimi	Kimi K2.6	Kimi	1.000
Mistral 7B	Mistral	Qwen3 8B	Qwen	1.000
Qwen2.5 7B	Qwen	Hunyuan 7B	Hunyuan	1.000

تتراوح درجات التشابه من 0 (لا سمات فئوية مشتركة) إلى 1 (ملفات بنيوية متطابقة).