OpenAI · 2025-08 · 스파스 MoE

GPT-OSS 120B

GPT-OSS 120B은(는) OpenAI가 2025-08에 공개한 그룹화 쿼리 어텐션(GQA) Transformer로, 36개 층, 은닉 차원 2880, 컨텍스트 길이 131,072 토큰을 갖습니다.

레이어 스택

슬라이딩 윈도우 ×18 어텐션 ×18 · 레이어 수 36

핵심 사양

연구소OpenAI
공개일2025-08
총 파라미터116.8 B
활성 파라미터5.1 B
컨텍스트131,072 tokens
어텐션GQA (64:8)
레이어 수36
은닉 차원2,880
어텐션 헤드64
어휘 크기201,088
위치 인코딩RoPE
정규화RMSNorm
활성화 함수silu
학습 정밀도MXFP4
아키텍처 클래스GptOssForCausalLM

아키텍처 개요

t₁ t₂ t₃ t₄ 입력 토큰 Embedding · 어휘 크기 201,088 → 은닉 차원 2,880 Q1 Q2 Q3 Qn KV1 KV2 KV3 KVn 어텐션 헤드 64 KV 헤드 8 head dim 64 · RoPE 라우터 E1 E2 E3 E4 E5 E6 E7 E8 +120… 128 전문가 중 top-4 · 토큰당 약 5.1B 파라미터 활성 × 36 Transformer 블록 어텐션 FFN / MoE RMSNorm pre-norm 최종 정규화 · RMSNorm LM head → 어휘 크기 201,088 p p p → 다음 토큰 위치 인코딩 RoPE 학습 정밀도 MXFP4 컨텍스트 128K tok
동봉된 config.json을 바탕으로 작도 · 36층 / 은닉 2,880 / 컨텍스트 131,072. 도식은 본 사이트의 오리지널입니다.

어텐션

그룹화 쿼리 어텐션(GQA) — 64 q-heads / 8 kv-heads. RoPE θ=150,000.

FFN / MoE

스파스 Mixture-of-Experts 모델로, 128개 라우팅 전문가와 top-4 라우팅을 사용하며 토큰당 약 5.1B 파라미터가 활성화됩니다.

필드 단위 비교

같은 연구소의 이전 세대 모델과 비교합니다. 없으면 구조가 가장 유사한 모델과 비교. 배수 열 = 본 모델 ÷ 비교 대상.

이전 세대 GPT-3 175B (paper)과의 전 필드 비교
모델GPT-OSS 120BGPT-3 175B (paper)배수
model_typegpt_ossgpt3-paper
architecturesGptOssForCausalLM
hidden_size288012288×0.234
num_hidden_layers36
num_attention_heads6496×0.667
num_key_value_heads8
head_dim64
intermediate_size2880
hidden_actsilu
num_experts_per_tok4
rope_theta150000
max_position_embeddings1310722048×64.00
sliding_window128
rms_norm_eps0.00001
vocab_size20108850257×4.00
attention_biastrue
attention_dropout0
eos_token_id200002
experts_per_token4
initial_context_length4096
initializer_range0.02
layer_typessliding_attention×18 + full_attention×18
num_local_experts128
output_router_logitsfalse
pad_token_id199999
router_aux_loss_coef0.9

구조가 가장 유사한 모델

유사도는 0(공통 범주 특징 없음)에서 1(구조 프로파일 완전 일치) 사이의 값입니다.

config.json 전체 필드

30 개 필드
architecturesGptOssForCausalLM
attention_biastrue
attention_dropout0
eos_token_id200002
experts_per_token4
head_dim64
hidden_actsilu
hidden_size2880
initial_context_length4096
initializer_range0.02
intermediate_size2880
layer_typessliding_attention×18 + full_attention×18
max_position_embeddings131072
model_typegpt_oss
num_attention_heads64
num_experts_per_tok4
num_hidden_layers36
num_key_value_heads8
num_local_experts128
output_router_logitsfalse
pad_token_id199999
rms_norm_eps0.00001
rope_theta150000
router_aux_loss_coef0.9
sliding_window128
swiglu_limit7
tie_word_embeddingsfalse
transformers_version4.55.0.dev0
use_cachetrue
vocab_size201088