AI 创企 Cognition 计划将 Token 消耗配额向最高效工程师倾斜
为控制 AI 相关开支,大型企业正在限制员工的使用额度、选用成本更低的小型模型,并借助路由调度器,只把难度最高的查询请求交由最贵的大模型处理。 AI 代码智能体 Devin 背后的初创公司 Cognition,推出了一项新方案。该公司透露:通过衡量不同工程师使用 AI 的效率,企业可以把更多资源分配给使用效率最高的员工。 Cognition 首席技术官卡尔文·吉鲁表示:“用户的使用限额不应固定不变,而要根据使用效率与产出价值动态调整。”