把 AI 项目的 ROI 记成一本账:成本、收益与上线之后的持续监测
可信的 AI 投资回报,要把上线之后的运维、模型漂移与持续监测放进同一张账本,按时间轴重算,而不是在上线庆功会上锁定一个漂亮数字。

上线即宣布胜利,是最贵的一种乐观
多数 AI 项目的投资回报,是在上线庆功会上宣布的:模型跑通了,演示很顺,团队报上一个亮眼的效率数字,项目就算成功。麻省理工 Project NANDA 在《State of AI in Business 2025》里给这种乐观泼了冷水——在约三百到四百亿美元的企业生成式 AI 投入背后,约 95% 的企业看不到可衡量的损益回报,只有约 5% 真正把试点转化成了经营层面的影响。它把这道裂缝称作 GenAI Divide:拉开差距的不是采用率,而是落地成效。麦肯锡 2025 年的 State of AI 调研印证了同一件事:近八成组织已在至少一个职能里经常使用生成式 AI,但在近两千家受访企业中,只有约 5.5% 能把超过 5% 的 EBIT 归因于 AI。差距不在用没用——采用早已普及;差距在于,算回报时多数人只拍了一张上线当天的快照。MIT 那份调研还点出一个常被忽略的错配:超过一半的生成式 AI 预算流向了销售与营销工具,可真正跑出回报的却是后台流程自动化;同样,向成熟供应商采购并深度绑定的项目,成功率约为 67%,而纯内部自建只有约三分之一——这些都是在算 ROI 之前就该先看清的结构性事实。而一旦项目上线,一个 AI 项目真正的投资回报,就得像一本沿时间轴记录的账本:成本会在上线后持续累积,收益会在上线后持续兑现或蒸发,中间还要专门留出监测这一项,记下上线之后谁在盯着这个模型。只算上线那一格,等于把最贵的部分留在了账外。
MIT 调研显示,向成熟供应商采购并深度绑定的项目成功率约 67%,是纯内部自建约三分之一的两倍——这是算 ROI 之前就该看清的结构性事实。
成本从上线那天才真正开始累积
把成本这一项拉长来看,上线前的开发投入往往只是较小的一笔。以行业测算的量级为例,采购商用平台的起步投入约在五万到二十万美元,走战略合作约十万到五十万美元,完全自研则可能高达五十万到两百万美元——但无论哪条路,这只是第一年账单的开头。企业 AI 的总拥有成本里,真正持续消耗预算的是上线之后的运维。行业测算显示,每年的维护开销大致相当于初始建设成本的 15% 到 30%,而且年复一年地发生;仅数据工程一项就常吃掉总支出的四分之一以上。更被系统性低估的是推理成本——谷歌在推理上的花费是模型训练的十到二十倍,因为训练只做有限几次,推理却随每一次调用重复发生。模型漂移会再叠加一层:当线上数据分布偏离训练时的样子,为维持准确率所做的重新训练,会额外带来约 15% 到 25% 的算力开销。还有几个容易漏记的条目——数据准备约占项目成本的一成三,利用率不足的 GPU 会让云账单在高峰时翻上好几倍,AI 工程师的高流失率又把招聘与培养成本一次次摊回来。这些都不是上线那天付清的一次性投入,而是每个月都在滴答作响的经常性支出。把它们如实算进总成本,很多在上线会上看起来赚钱的项目,颜色会立刻改变。
省下的钱,会随模型漂移悄悄蒸发
收益这一项的麻烦,在于它不会停在原地。上线时测出的准确率、转化率或人力节省,是一个会随时间衰减的数字。生产环境里的模型有寿命:数据漂移让输入的统计分布慢慢偏移,概念漂移让变量之间的关系被外部事件改写,一次监管调整或一场需求突变,就能让原本有效的模型失灵。最危险的是这种衰减往往是静默的——模型只要还能处理输入,就会照常给出预测,哪怕喂进去的数据已经不对,它也不会像宕机的服务那样抛出报错,而是安静地给出一个看似正常、实则失准的答案。于是一个在上线季度贡献了明确收益的模型,可能到第三个季度已经悄悄把一部分收益还了回去,而管理层仪表盘上的初始数字纹丝不动。信贷审批里客群结构的缓慢变化、客服场景里用户问法的迁移、需求预测遇上一次促销或政策突变,都会在没有任何警报的情况下侵蚀当初测出的那个收益数字。这正是把 ROI 算成一个时点的致命处:计算里的收益被当成常量,实际上它每天都在被漂移侵蚀。真实的收益核算必须是动态的:每个季度重估模型究竟还在兑现多少价值,因为上线那一刻的峰值几乎不可能一路撑到年底。收益不重估,等于默许一个正在缩水的数字继续冒充当初的战绩。
上线之后,谁在持续盯着这个模型
既然成本会持续累积、收益会持续衰减,那么上线之后必须有人一直盯着这个模型——这件事本身就是 ROI 的组成部分,算不上可选的售后。MLOps 这门工程把机器学习的生命周期从实验一路延伸到生产环境的持续监测:Nogare 与 Silveira 在其 MLOps 综述里把部署定义为一段长期运维的起点,交付只是这段运维的第一天。具体来说,持续监测对应几笔实打实的开支:漂移检测与告警、定期重新训练、错误样本的人工复核,以及出问题时的回滚与人工接管流程。这些通常占到服务基础设施成本的 5% 到 15%,是一笔不小却远比事故便宜的保险——一个能在 5% 的输出出错时就发现问题的监测体系,比等到问题波及四分之一决策才察觉的体系,省下的钱要多得多。若一个项目的预算里根本没有为监测、维护和错误处理留出科目,它宣布的回报就只是上线快照,经不起时间检验。当 AI 从只会应答的助手升级为能自己执行任务的 Agent 时,这笔监测账只会更重:BCG 估计 2025 年 Agent 已占到 AI 所创造价值的约 17%,到 2028 年可能升至约 29%,而一个会自动下单、自动改单的系统一旦静默出错,波及的就从一条预测扩大成一连串真实动作,因此权限、日志与人工接管的成本必须提前记进预算。这也解释了麦肯锡调研里高绩效者的共性:他们重构工作流的可能性约为其余企业的三倍,把 AI 嵌进流程的同时,也把监测嵌进了日常运转,而不是挂在流程外面。
| 账目维度 | 只算上线时点会漏掉的静默失效 | 公开来源的量级参照 | 让回报数字站得住的控制项 |
|---|---|---|---|
| 成本 | 上线后持续累积的运维、推理与重训被留在账外,账面盈利被高估 | 年维护约为初始建设成本的 15%–30% 且逐年发生;推理花费可达训练的 10–20 倍;重训再叠加约 15%–25% 算力 | 把运维、推理、重训等经常性支出按月记进总拥有成本,而非只记上线前的一次性投入 |
| 收益 | 数据漂移与概念漂移让模型静默失效,收益悄悄蒸发而管理层仪表盘上的初始数字纹丝不动 | 上线季度的峰值可能到第三季度已还回一部分(漂移侵蚀,示意量级非实测) | 每季度重估模型究竟还在兑现多少价值,不沿用上线快照当常量 |
| 监测 | 预算里没有监测与错误处理科目,回报只是上线快照,经不起时间检验 | 持续监测约占服务基础设施成本的 5%–15%;Agent 约占 AI 所创造价值的 17%(2025)→ 约 29%(2028),静默出错波及面更大 | 为漂移检测、定期重训、人工复核与回滚单独立项,并在上线半年、一年后回来把这笔账重算一遍 |
一个站得住的 AI ROI,必须为成本、收益、监测三项各配一个控制措施并在上线后重算;任何一行缺了控制项,报出的回报就只是上线当天的快照。
结论:ROI 是一条要一直记下去的时间线
把成本、收益与监测这三项并到一起,一个可信的 AI ROI 就该是一本沿时间轴记录的账本:成本一侧记下上线之后每月累积的运维、推理与重训开销,收益一侧按季度重估还在真正兑现的价值,中间一栏记下谁在持续监测、发现衰减的速度有多快。判断一个项目算得对不对,有一个很具体的触发条件:它有没有在预算和复盘里,为监测、维护与错误处理单独立项,并且愿意在上线半年、一年后回来把这笔账重算一遍。做到这一点的项目,报出的回报数字才站得住。反面的信号同样清晰:如果一个团队在上线当天就锁定 ROI、把它当成既成事实,却对模型漂移、维护成本和错误处理只字不提,那么这个数字的保质期,大概只到下一次数据分布悄悄改变为止。无论企业买的是美国还是中国的模型栈,也无论落地在国内市场还是东南亚,这道分水岭都一样——BCG 把企业分成三层:约 5% 为未来而建,三成多在扩展,六成仍然落后,而领先者与落后者拉开差距的地方,恰恰是前者愿意为一整条时间线负责,把上线只当作开始计费的第一天。能穿过这道价值鸿沟的,往往正是那些愿意把账一直记到上线之后、并在半年后诚实面对模型是否还在赚钱的公司。AI 的回报从来不是上线那一刻的一个点,而是一条需要一直记下去的时间线。
资料来源
7 个公开来源,按文章核验用途列出。
- 学术资料The GenAI Divide: State of AI in Business 2025 (MIT Project NANDA)
- 公开报道MIT report: 95% of generative AI pilots at companies are failing
- 权威机构The state of AI: How organizations are rewiring to capture value (State of AI 2025)
- 权威机构Are You Generating Value from AI? The Widening Gap
- 行业资料Total cost of ownership for enterprise AI: hidden costs and ROI factors
- 行业资料Model monitoring for ML in production: a comprehensive guide
- 学术资料Experimentation, deployment and monitoring Machine Learning models: Approaches for applying MLOps
