蚂蚁开源混合线性架构的万亿参数思考模型 Ring-2.5-1T
2 月 13 日,蚂蚁发布并开源首个混合线性架构的万亿参数思考模型 Ring-2.5-1T。据介绍,相比此前发布的 Ring-1T,Ring-2.5-1T 在生成效率、思考深度、长程执行上均有大幅提升,在超过 32K 生成长度下,访存规模降低 10 倍以上,生成吞吐提升 3 倍以上。
 
 
Back to Top