要点

Rippling 推出 AI Spend Console 来监控并遏制失控的 AI 令牌支出，同时衡量更高支出是否与实际生产力提升相关。公司发现少数员工推动了大部分成本——有一名工程师每月花费达数万美元——并重新设计了控制措施，包括模型路由、谈判上限和新的仪表板。 这一关键洞见显著影响企业应如何治理 AI 使用并将消耗与可衡量的产出挂钩。

情感分析

• 文章整体情感为谨慎乐观。它强调了一个问题——快速、失控的 AI 支出——并描述了一个务实且以数据为驱动的解决方案，既保留 AI 的效用又降低成本。语气承认早期失误，但强调学习和纠正行动。
  65%

文章正文

人力资源軟件提供商 Rippling 推出了 AI Spend Console，以应对内部在 AI 令牌上的意外高额支出。今年年初，公司高层发现 AI 支出快速上升——预测显示令牌成本可能消耗研发编制预算的大部分。那一认识促使启动紧急项目，了解谁在消耗令牌、为何消耗，以及这项支出是否带来了相应的生产力提升。

调查发现，相对少数的员工负责不成比例的大部分支出。在一个引人注目的例子中，某名工程师记录了数万美元的月度令牌使用额。面对这些数字，Rippling 试图在不完全停止 AI 使用的情况下遏制成本。公司与其推理提供商协商了支出上限，并实施了控制以在适当情况下将使用导向更具成本效益的模型。

一项重要发现是行为方面的：员工经常在例行任务中默认使用最新、最昂贵的模型。Rippling 的领导层观察到推理提供商几乎没有动机帮助客户限制支出，且来自提供商的使用洞察有限。为了解决此问题，Rippling 开发了一个 AI 网关，将提示路由到每项任务最合适且最经济的模型。此路由能力是 AI Spend Console 的核心要素，尽管已使用第三方网关的企业仍可采用该产品，但某些功能会有局限。

AI Spend Console 还提供将提示量与支出与输出指标（例如代码行数或 pull request）相关联的仪表板。这些仪表板使公司能够衡量高令牌消耗是否对应更高质量或更具生产力的工作。通过将支出数据与输出度量结合，Rippling 能识别出令牌使用没有产生相应结果的团队和个人。

使用这些度量和路由控制后，Rippling 将令牌支出从预计占研发预算 40% 降至约 15%，同时继续允许大量的内部 AI 使用。值得注意的是，令牌数量后来匹配了早前的高峰水平，但成本只是此前数月的一小部分，因为路由系统偏好更便宜且有效的模型。 路由到更具成本效益的模型被证明在不限制 AI 驱动的生产力下降低成本方面起到了决定性作用。

除了技术控制外，公司还强调人为流程。Rippling 指定熟练的 AI 使用者为 "AI captains"，以协助同事并鼓励有效做法。公司也在探索工程之外更广泛的使用——例如自动化客户入职和数据对账的部分工作——但承认在非工程职能上衡量生产力仍在进行中。如果行政和面向客户的岗位的令牌消耗无法可靠地与生产力挂钩，访问策略可能需要更严格。

总之，Rippling 的经验说明了对企业的若干教训：如果没有治理，令牌消耗会迅速上升；在不同价格和性能点上的多模型是有价值的；路由和使用分析对控制成本至关重要；将技术控制与内部倡导者结合有助于扩展有效做法。AI Spend Console 提供给 Rippling 的人力资源客户并作为独立产品对外销售，按使用量计收 AI 成本。该工具被定位为治理与投资回报工具，帮助公司在 AI 采用与成本问责之间取得平衡。

關鍵洞見表