算力网开启一体化调度周期 实现 Token 规模化降本
当算力供给从单卡走向万卡集群,算力网调度从联网走向跨域协同,产业最关心的成本问题也随之浮出水面。多家券商认为,算力网一体化调度的终极产业红利,是通过盘活闲置算力、优化任务分配、叠加绿电与异构技术优势,持续降低大模型训练、推理的单位成本,核心体现为 AI Token(词元)生产成本大幅下行。 目前,运营商算力网调度已形成了成熟降本范式。 在运营商的调度实践之外,国产算力软硬件厂商的深度协同也在落地。不久前,趋境科技与摩尔线程达成战略合作,打造国产化高品质 AI Token 工厂,相关方案已正式投产。趋境科技 Token 事业部总经理刘显赫表示,随着大模型应用进入规模化商业落地阶段,基础设施的竞争正在从单卡性能转向系统级 Token 生产效率。(证券时报)
当算力供给从单卡走向万卡集群,算力网调度从联网走向跨域协同,产业最关心的成本问题也随之浮出水面。多家券商认为,算力网一体化调度的终极产业红利,是通过盘活闲置算力、优化任务分配、叠加绿电与异构技术优势,持续降低大模型训练、推理的单位成本,核心体现为 AI Token(词元)生产成本大幅下行。 目前,运营商算力网调度已形成了成熟降本范式。 在运营商的调度实践之外,国产算力软硬件厂商的深度协同也在落地。不久前,趋境科技与摩尔线程达成战略合作,打造国产化高品质 AI Token 工厂,相关方案已正式投产。趋境科技 Token 事业部总经理刘显赫表示,随着大模型应用进入规模化商业落地阶段,基础设施的竞争正在从单卡性能转向系统级 Token 生产效率。(证券时报)