OpenAI · 2025-08 · Sparsames MoE

GPT-OSS 120B

GPT-OSS 120B ist ein Grouped-Query-Attention (GQA)-Transformer, veröffentlicht von OpenAI im 2025-08, mit 36 Schichten, Hidden-Größe 2880 und einem Kontextfenster von 131,072 Tokens.

Schichtstapel

Gleitendes Fenster ×18 Attention ×18 · Schichten 36

Kernfakten

LaborOpenAI
Veröffentlicht2025-08
Parameter116.8 Mrd.
Aktiv5.1 Mrd.
Kontext131,072 tokens
AttentionGQA (64:8)
Schichten36
Hidden-Dim.2,880
Attention-Köpfe64
Vokabular201,088
PositionscodierungRoPE
NormierungRMSNorm
Aktivierungsilu
PräzisionMXFP4
ArchitekturklasseGptOssForCausalLM

Architekturüberblick

t₁ t₂ t₃ t₄ Eingabetokens Embedding · Vokabular 201,088 → Hidden-Dim. 2,880 Q1 Q2 Q3 Qn KV1 KV2 KV3 KVn Attention-Köpfe 64 KV-Köpfe 8 head dim 64 · RoPE Router E1 E2 E3 E4 E5 E6 E7 E8 +120… Top-4 von 128 Experten · ≈ 5.1 Mrd. Parameter pro Token aktiv × 36 Transformer-Block Attention FFN / MoE RMSNorm pre-norm Finale Norm · RMSNorm LM head → Vokabular 201,088 p p p → nächstes Token Positionscodierung RoPE Präzision MXFP4 Kontext 128K tok
Gezeichnet nach der mitgelieferten config.json · 36 Schichten / Breite 2,880 / Kontext 131,072. Originaldiagramm dieses Atlas.

Attention

Grouped-Query-Attention (GQA) — 64 q-heads / 8 kv-heads. RoPE θ=150,000.

FFN / MoE

Es handelt sich um ein sparsames Mixture-of-Experts mit 128 gerouteten Experten und Top-4-Routing; etwa 5.1 Mrd. Parameter sind pro Token aktiv.

Feldweiser Vergleich

Verglichen mit dem vorherigen Modell desselben Labors; fehlt dieses, mit dem strukturell nächsten Modell. Die Spalte Ratio = dieses Modell ÷ Vergleichsmodell.

Vollfeldvergleich mit dem Vorgänger GPT-3 175B (paper)
ModellGPT-OSS 120BGPT-3 175B (paper)Ratio
model_typegpt_ossgpt3-paper
architecturesGptOssForCausalLM
hidden_size288012288×0.234
num_hidden_layers36
num_attention_heads6496×0.667
num_key_value_heads8
head_dim64
intermediate_size2880
hidden_actsilu
num_experts_per_tok4
rope_theta150000
max_position_embeddings1310722048×64.00
sliding_window128
rms_norm_eps0.00001
vocab_size20108850257×4.00
attention_biastrue
attention_dropout0
eos_token_id200002
experts_per_token4
initial_context_length4096
initializer_range0.02
layer_typessliding_attention×18 + full_attention×18
num_local_experts128
output_router_logitsfalse
pad_token_id199999
router_aux_loss_coef0.9

Strukturell ähnlichste Modelle

Ähnlichkeitswerte reichen von 0 (keine gemeinsamen kategorialen Merkmale) bis 1 (identische Profile).

Rohe Config-Felder

30 Felder
architecturesGptOssForCausalLM
attention_biastrue
attention_dropout0
eos_token_id200002
experts_per_token4
head_dim64
hidden_actsilu
hidden_size2880
initial_context_length4096
initializer_range0.02
intermediate_size2880
layer_typessliding_attention×18 + full_attention×18
max_position_embeddings131072
model_typegpt_oss
num_attention_heads64
num_experts_per_tok4
num_hidden_layers36
num_key_value_heads8
num_local_experts128
output_router_logitsfalse
pad_token_id199999
rms_norm_eps0.00001
rope_theta150000
router_aux_loss_coef0.9
sliding_window128
swiglu_limit7
tie_word_embeddingsfalse
transformers_version4.55.0.dev0
use_cachetrue
vocab_size201088