Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.124 — 2026-11-05
NEWS 约 4 分钟

Revolut自托管模型,编码成本降九成

Revolut改用自托管编码模型,自称成本仅为原先约十分之一,企业AI经济账有了新样本。

IMAGE — r/LocalLLaMA 日榜

你请一位按次收费的外部助手写代码,起初很省事;可当全公司每天都来找他,账单很快就会变得刺眼。Revolut 遇到的正是这类问题。这家英国金融科技公司把默认 AI 编码方案从 Claude 转向自托管模型,并称成本降至原来的约十分之一。这个案例值得看,不只因为“省了 90%”,更因为它碰到了企业采用 AI 时最现实的一道题:什么时候该继续买云服务,什么时候值得自己把模型养起来?目前核心结果来自 Revolut 自报,尚无独立测算。

从按量付费,改成自己开机

闭源编码模型,是由供应商提供、但不公开模型权重和内部实现的编程助手。企业通常通过 API——也就是软件之间发送请求、接收结果的接口——按调用量付费。好处是上手快,不必自己维护模型;代价是费用和容量受供应商规则影响。

自托管走的是另一条路:企业把模型部署在自己选择的服务器或租用基础设施上,显卡、数据流向和服务配置都由内部团队掌握。Revolut 称,完成这种迁移后,AI 编码成本变为原先约十分之一,即下降约 90%。这里不宜说“成本降低十倍”,因为“10x”是醒目的标题表达,并未交代完整计算口径。

据 AI Engineer NYC 整理,Revolut 最初向工程师推广 Claude Code 时,个别人的月度消耗达到 1,000 甚至 10,000 美元,公司随后给每人设置严格额度。结果是,工程师开始把 tokens——模型处理和生成文字时使用的计量单位——留给季度末或最棘手的任务,不敢随手用在邮件、Jira 工单和 Confluence 文档上。

2026 年 4 月,Revolut 改用自托管 GLM。GLM 是中国厂商 Z.ai 的开放权重模型,企业可以取得模型权重并自行部署。额度带来的“token 负罪感”消失后,公司观察到交付周期的改善大于纯编码时间的改善。Revolut 的 Abitbol 据此认为,许多效率瓶颈其实发生在代码之外。不过,这组内部前后对比没有排除额度变化等其他因素,不能直接当成 GLM 与 Claude 的模型能力测评。

便宜不等于轻松

自托管省下的是供应商调用费,却接回了运行模型的工作。所谓推理成本,就是模型读取指令、生成答案时消耗的显卡、服务器和服务费用。它是否划算,取决于调用规模、硬件利用率以及运维负担。

Revolut 的上线过程也说明了这一点。据 AI Engineer NYC,模型运行在同一批 56 张 B200 GPU 上时,首次输出文字一度需要等待 14.26 秒。团队没有立即增加显卡,而是调整服务配置,最终把等待时间压到 1.68 秒,同时将每秒请求量提高 76%。Abitbol 给出的体验红线是五秒:超过这个时间,他的 Slack 收件箱就会开始“爆”。

这很像把外卖改成公司食堂。单份饭可能更便宜,菜单和食材也更可控,但厨房、排班、卫生和高峰期拥堵都要自己负责。Revolut 的数据说明,大规模、持续使用或许能让这笔账成立;它还不能证明所有企业照做都会省钱。

为什么值得关注

这个案例把“模型能力之争”拉回了企业经济账。闭源服务卖的是便利,自托管买回的是控制权。对金融科技公司而言,后者还涉及代码和数据实际流向哪里。

据 AI Engineer NYC,Revolut 把模型权重部署在自己选择的基础设施上,并为编码代理设置沙箱——一种限制程序访问范围和执行权限的隔离环境,敏感操作仍需人工批准。切断厂商 API 并不等于责任消失。操作审计、内部滥用防范和事故追踪,都会重新落到企业自己身上。

局限与未知

  • 现有材料没有披露成本统计周期,也未说明硬件采购、基础设施和运维人员成本是否全部计入。
  • “不再以 Claude 为默认方案”不一定等于完全停用 Claude;材料不足以确认实际边界。
  • 迁移后的效率变化来自公司内部前后对比,可能同时受到额度放宽、使用场景扩大等因素影响,不能视为独立验证。

供稿材料 SOURCES — 1

← 返回 2026-11-05 · 开源板块