架構全景圖

語料的一張全景圖：橫軸為發布日期，縱軸為總參數（對數刻度），每個模型一點並依實驗室著色。向右下方遷移——時間越晚、激活越稀疏——正是整個領域走向混合專家的軌跡。