趋境科技发布 AI Token 生产服务平台 ATaaS
3 月 27 日消息，趋境科技正式发布全新一代 AI 推理平台 ——趋境 ATaaS 高效能 AI Token 生产服务平台。针对大模型应用爆发导致算力投入与 Token 产出错配、硬件空耗，该平台依托全球首创的异构推理重构、超体量 KV Cache 等技术，实现 CPU 与 GPU、国产与非国产算力的深度融合及精细调度。据其测算，ATaaS 可将万卡级智算集群运营成本压降 20%以上，缓存命中率最高达 90%，大幅削减 GPU 算力开销。