OpenAI · 2025-08 · MoE sparsa

GPT-OSS 120B

GPT-OSS 120B è un Transformer a attention grouped-query (GQA) pubblicato da OpenAI nel 2025-08, con 36 strati, dimensione nascosta 2880 e una finestra di contesto di 131,072 token.

Pila di strati

Finestra scorrevole ×18 Attention ×18 · Strati 36

Dati chiave

LaboratorioOpenAI
Pubblicazione2025-08
Parametri116.8 mld
Attivi5.1 mld
Contesto131,072 tokens
AttentionGQA (64:8)
Strati36
Dim. nascosta2,880
Teste di attention64
Vocabolario201,088
Codifica posizionaleRoPE
NormalizzazioneRMSNorm
Attivazionesilu
PrecisioneMXFP4
Classe architetturaleGptOssForCausalLM

Panoramica dell'architettura

t₁ t₂ t₃ t₄ token di ingresso Embedding · Vocabolario 201,088 → Dim. nascosta 2,880 Q1 Q2 Q3 Qn KV1 KV2 KV3 KVn Teste di attention 64 Teste KV 8 head dim 64 · RoPE Router E1 E2 E3 E4 E5 E6 E7 E8 +120… top-4 su 128 esperti · ≈ 5.1mld parametri attivi per token × 36 blocco transformer Attention FFN / MoE RMSNorm pre-norm Normalizzazione finale · RMSNorm LM head → Vocabolario 201,088 p p p → token successivo Codifica posizionale RoPE Precisione MXFP4 Contesto 128K tok
Disegnato dal config.json distribuito · 36 strati / larghezza 2,880 / contesto 131,072. Schema originale di questo atlante.

Attention

attention grouped-query (GQA) — 64 q-heads / 8 kv-heads. RoPE θ=150,000.

FFN / MoE

È un mixture-of-experts sparso con 128 esperti instradati e routing top-4; circa 5.1 milioni di parametri sono attivi per token.

Confronto campo per campo

Confronto con il modello precedente dello stesso laboratorio; in assenza, col modello strutturalmente più vicino. La colonna rapporto = questo modello ÷ modello di confronto.

Confronto completo con il predecessore GPT-3 175B (paper)
ModelloGPT-OSS 120BGPT-3 175B (paper)Rapporto
model_typegpt_ossgpt3-paper
architecturesGptOssForCausalLM
hidden_size288012288×0.234
num_hidden_layers36
num_attention_heads6496×0.667
num_key_value_heads8
head_dim64
intermediate_size2880
hidden_actsilu
num_experts_per_tok4
rope_theta150000
max_position_embeddings1310722048×64.00
sliding_window128
rms_norm_eps0.00001
vocab_size20108850257×4.00
attention_biastrue
attention_dropout0
eos_token_id200002
experts_per_token4
initial_context_length4096
initializer_range0.02
layer_typessliding_attention×18 + full_attention×18
num_local_experts128
output_router_logitsfalse
pad_token_id199999
router_aux_loss_coef0.9

Architetture più simili

I valori di similarità vanno da 0 (nessuna caratteristica categoriale condivisa) a 1 (profili identici).

Campi grezzi del config.json

30 campi
architecturesGptOssForCausalLM
attention_biastrue
attention_dropout0
eos_token_id200002
experts_per_token4
head_dim64
hidden_actsilu
hidden_size2880
initial_context_length4096
initializer_range0.02
intermediate_size2880
layer_typessliding_attention×18 + full_attention×18
max_position_embeddings131072
model_typegpt_oss
num_attention_heads64
num_experts_per_tok4
num_hidden_layers36
num_key_value_heads8
num_local_experts128
output_router_logitsfalse
pad_token_id199999
rms_norm_eps0.00001
rope_theta150000
router_aux_loss_coef0.9
sliding_window128
swiglu_limit7
tie_word_embeddingsfalse
transformers_version4.55.0.dev0
use_cachetrue
vocab_size201088