Strukturelle Ähnlichkeit

Jedes Modell wird als Merkmalvektor codiert — Attention-Klasse, MoE-Layout, Normierung, Positionscodierung, Aktivierung, Präzision, dazu logarithmierte Größe und Kontext. Die Kosinusähnlichkeit zwischen diesen Vektoren zeigt strukturelle Geschwister: Modelle, die bei unterschiedlicher Skalierung dieselben strukturellen Wetten eingingen.

Methode

Die Vektoren kombinieren One-Hot-Codierung kategorialer Entscheidungen (Attention-Klasse, Normierung, Positionscodierung, Aktivierung, Präzision) mit normalisierten logarithmischen Merkmalen (Gesamtparameter, Kontextlänge, Schichten, Hidden-Größe). Die Ähnlichkeit ist die Kosinusähnlichkeit; sie misst strukturelle, nicht leistungsmäßige Verwandtschaft.

Ähnlichkeits-Heatmap

01 Zeilen und Spalten sind Modelle, nach Labor gruppiert; dunkler heißt ähnlicher. Hover zeigt exakte Werte.

Ähnlichkeitswerte reichen von 0 (keine gemeinsamen kategorialen Merkmale) bis 1 (identische Profile).

Ähnlichkeit > 0.93

Modell AModell BÄhnlichkeit
DeepSeek-V3DeepSeekDeepSeek-V3 BaseDeepSeek1.000
DeepSeek-V3DeepSeekDeepSeek-R1DeepSeek1.000
DeepSeek-V3DeepSeekDeepSeek-V3.1DeepSeek1.000
DeepSeek-V3DeepSeekDeepSeek-V3.2DeepSeek1.000
DeepSeek-V3 BaseDeepSeekDeepSeek-R1DeepSeek1.000
DeepSeek-V3 BaseDeepSeekDeepSeek-V3.1DeepSeek1.000
DeepSeek-V3 BaseDeepSeekDeepSeek-V3.2DeepSeek1.000
DeepSeek-R1DeepSeekDeepSeek-V3.1DeepSeek1.000
DeepSeek-R1DeepSeekDeepSeek-V3.2DeepSeek1.000
DeepSeek-V3.1DeepSeekDeepSeek-V3.2DeepSeek1.000
GLM-5GLMGLM-5.1GLM1.000
DeepSeek-V4-FlashDeepSeekDeepSeek-V4-Flash BaseDeepSeek1.000
Hunyuan 3 PreviewHunyuanHunyuan 3 Preview BaseHunyuan1.000
Hunyuan 3 PreviewHunyuanHunyuan 3Hunyuan1.000
Hunyuan 3 Preview BaseHunyuanHunyuan 3Hunyuan1.000
MiniMax-M3MiniMaxMiniMax-M3 MXFP8MiniMax1.000
Qwen2 72BQwenQwen2.5 72BQwen1.000
Kimi K2 0905KimiKimi K2.5Kimi1.000
Kimi K2 0905KimiKimi K2.6Kimi1.000
Qwen3-Next 80B A3BQwenQwen3-Coder-NextQwen1.000
Kimi K2.5KimiKimi K2.6Kimi1.000
Qwen3.5 9BQwenQwen3.5 9B BaseQwen1.000
Qwen3.6 27BQwenQwen3.8 27BQwen1.000
MiniMax-Text-01MiniMaxMiniMax-M1MiniMax1.000
GLM-5.2GLMGLM-5.3GLM1.000
MiniMax-M2MiniMaxMiniMax-M2.5MiniMax1.000
GLM-5.2GLMHunyuan 4 PreviewHunyuan1.000
GLM-5.3GLMHunyuan 4 PreviewHunyuan1.000
Qwen3 30B A3BQwenHunyuan-TurboS 30B A3BHunyuan1.000
Step-3.5-FlashStepFunStep-3.7-FlashStepFun1.000
MiniMax-M2MiniMaxMiniMax-M2.7MiniMax1.000
MiniMax-M2.5MiniMaxMiniMax-M2.7MiniMax1.000
Mistral 7BMistralHunyuan 7BHunyuan1.000
GLM-4.5GLMGLM-4.6GLM1.000
Qwen3 8BQwenHunyuan 7BHunyuan1.000
Kimi K2 BaseKimiKimi K2 0905Kimi1.000
Kimi K2 BaseKimiKimi K2.5Kimi1.000
Kimi K2 BaseKimiKimi K2.6Kimi1.000
Mistral 7BMistralQwen3 8BQwen1.000
Qwen2.5 7BQwenHunyuan 7BHunyuan1.000

Ähnlichkeitswerte reichen von 0 (keine gemeinsamen kategorialen Merkmale) bis 1 (identische Profile).