面壁智能发布基于稀疏-线性混合架构 SALA 训练 9B 模型
金十数据 2 月 12 日讯，面壁智能正式发布稀疏-线性注意力混合架构 SALA，以及基于该架构的文本模型 MiniCPM-SALA，模型仅有 9B 参数。据介绍，MiniCPM-SALA 不使用投机采样等加速算法，在云端推理芯片上，当序列长度为 256K 词元时推理速度高达 Qwen3-8B 的 3.5 倍，并支持在云端芯片和消费级端侧 GPU 上进行高达一百万词元上下文长度的推理。