Akamai:未来一年内将全球 GPU 节点扩充至数百个,延迟目标 10 至 20 毫秒
4 月 15 日消息,Akamai 亚太区云计算架构师总监李文涛在媒体沟通会上表示,公司已在全球大规模部署英伟达 RTX 6000 Pro Blackwell 系列 GPU,目前覆盖 130 多个国家、4400 多个边缘节点。未来一年内,具备 GPU 能力的节点将扩充至数百个以上,目标实现 10 至 20 毫秒级低延迟 AI 推理响应。李文涛称,通过语义缓存技术可将重复推理成本降低 50%至 80%,在 token 出海方面出方向流量定价为 0.005 美元/GB。