MiMo-V3换架构：HySparse2是真突破，还是换汤不换药？

MiMo-V3要换成HySparse2了——"混合"加"稀疏"，名字本身就在暗示一种妥协。大模型这阵子卷参数、卷数据，边际收益越来越薄，架构层面的创新几乎成了唯一突破口。稀疏激活的思路是只点亮部分神经元来省钱，但路由质量始终是隐患。HySparse2如果真能在效率和表达力之间找到更好的平衡，这个方向值得跟。不过光看名字就下结论太早，落地效果才是硬道理。等MiMo-V3跑出有说服力的benchmark数据，这场架构变革才算真正立住了。

原文：MiMo-V3 is getting a new architecture. HySparse2 · 来源：Hacker News