阿里云真武超节点适配 Kimi K3
金十数据 7 月 28 日讯,阿里云表示,阿里云真武 M890 超节点实例已 Day0 适配 Kimi K3,这是国内首个跑通近 3 万亿参数模型的超节点。双方将进一步展开国产算力合作,千问 AI 平台和阿里云百炼也将提供 Kimi K3 的模型 API。为提升 Kimi K3 的运行效率,阿里云、平头哥与 Kimi 团队从软件栈、算子等层面进行了深度联合适配。例如,真武 M890 对 Kimi K3 模型架构的核心算子进行优化,显著提升推理的算力和带宽利用率,可稳定支持最 1M 长上下文,从容应对长文档理解、复杂推理等场景。测试显示,适配后模型的首 Token 时延降低约 35%,单卡解码吞吐提升 1.8 倍。
金十数据 7 月 28 日讯,阿里云表示,阿里云真武 M890 超节点实例已 Day0 适配 Kimi K3,这是国内首个跑通近 3 万亿参数模型的超节点。双方将进一步展开国产算力合作,千问 AI 平台和阿里云百炼也将提供 Kimi K3 的模型 API。为提升 Kimi K3 的运行效率,阿里云、平头哥与 Kimi 团队从软件栈、算子等层面进行了深度联合适配。例如,真武 M890 对 Kimi K3 模型架构的核心算子进行优化,显著提升推理的算力和带宽利用率,可稳定支持最 1M 长上下文,从容应对长文档理解、复杂推理等场景。测试显示,适配后模型的首 Token 时延降低约 35%,单卡解码吞吐提升 1.8 倍。