架构全景图

语料的一张全景图：横轴为发布日期，纵轴为总参数（对数刻度），每个模型一个点并按实验室着色。向右下方迁移——时间越晚、激活越稀疏——正是整个领域走向混合专家的轨迹。