评估与优化

Agent ROI 计算模型——上线前能算清楚这笔账的团队不超过 10%

我合作过的团队里，10 个有 9 个在上 Agent 项目前算不清这笔账。

不是因为财务能力不够——是因为Agent 的成本结构跟传统软件完全不一样。传统软件的成本在开发阶段（一次性），Agent 的成本在运行阶段（持续发生）。算不清运行成本，就没办法做 ROI 判断。

---

一、Agent 的成本冰山模型

大多数人看到的 Agent 成本只是 LLM API 费用——水面上那一小部分。水面下还有四层：

层级	成本项	占比（典型）	是否容易被忽略
第 1 层	LLM API 调用	30-40%	✅ 通常能算到
第 2 层	重试和 Fallback 成本	10-20%	❌ 容易被忽略
第 3 层	人工审核和纠错成本	20-30%	❌ 最容易被忽略
第 4 层	基础设施和运维	10-15%	❌ 通常被忽略
第 5 层	持续优化和迭代	5-10%	❌ 几乎没人算

也就是说，看到 API 费用是 100 元，实际总成本大约在 250-350 元之间。如果只按 API 费用算 ROI，你会觉得"赚翻了"——上线后才发现亏了。

二、五层成本详解

第 1 层：LLM API 调用

这是最容易算的。公式：

但这里有一个陷阱：单次 Agent 任务 ≠ 一次 API 调用。一个 ReAct 循环可能调用 5-10 次 API（思考→行动→观察→再思考...），每次调用都要把历史上下文重新传给模型。我的实测数据：5 步 ReAct 的 Token 消耗 ≈ 1 步直答的 8-12 倍。

以 GPT-4o 为例（假计输入 $2.5/M Token，输出 $10/M Token）：

任务类型	平均 Token/次	单次成本
简单直答	~2K	~$0.007
3 步 ReAct	~5K	~$0.02
5 步 ReAct	~15K	~$0.08
10 步复杂任务	~50K	~$0.30

第 2 层：重试和 Fallback

模型输出不正确需要重试。验证闭环的每一次"不通过"都意味着一份额外的成本——重新调用模型生成，加上验证本身的消耗。

我的监控数据显示：首轮成功率约 70-85%。也就是说，15-30% 的任务需要至少一次重试。重试不仅消耗额外 Token，还会增加延迟。

公式： 实际成本 = 基准成本 × (1 + 失败率 × 重试倍数)。如果失败率 20%、平均重试 2 次，实际成本是基准的 1.4 倍。

第 3 层：人工审核和纠错

这是最隐蔽的成本。Agent 产出结果后，需要人来检查、修改、确认。这花的时间就是钱。

一个真实案例： 我的内容生产流水线，Agent 写一篇初稿约 3 分钟、消耗约 $0.3。但审计和修改需要我花 10-20 分钟。如果我自己写，大概需要 40 分钟。所以实际效率提升大约是 2 倍——不是宣传中的"10 倍"。

不是 Agent 不好，是"Agent 产出 + 人工审核"的综合成本才是真实的 ROI 基线。

第 4 层：基础设施和运维

Agent 需要跑的地方：服务器、向量数据库、缓存层、API 网关。这些在传统软件里已经有了，但 Agent 的负载特征不同——不可预测、突发性高、Token 消耗时高时低。你无法像传统软件那样精确预算。

第 5 层：持续优化

Agent 需要持续维护：Prompt 调优、约束规则更新、新工具集成、评估集维护。这些不是一次性的——只要 Agent 在用，就有维护成本。我估算大约占初始搭建成本的 20-30%/月。

---

三、ROI 计算公式

其中：

Agent 总成本 = LLM 费用 × (1 + 重试率) + 审核工时 × 人力时薪 + 基础设施 + 维护成本

人工成本 = 原人工耗时 × 人力时薪 × 日处理量 × 工作天数

四、一个完整的 ROI 计算示例

场景： 电商客服工单分类（每天 300 单）

成本项	计算	月成本
LLM 调用	300 单 × 3K Token × $0.008/K × 30天	$216
重试（20%）	$216 × 20%	$43
人工审核（5min/单）	300单 × 5min × 60元/h × 30天	¥4,500 ≈ $625
基础设施	服务器分摊	~$50
Agent 总成本		$934/月

原人工成本： 2 个客服，月薪各 8000 元，处理 300 单/天 → 约 $2200/月

ROI： ($2200 - $934) / $934 = 135%

结论： 正 ROI，值得做。但跟很多人想的"省掉 2 个人"不一样——实际是 1 个人 + Agent 处理 300 单。

---

五、ROI 决策矩阵

每日量	单次 Agent 成本	月成本	替代人工	ROI	建议
1000 单	$0.05	$1,500	5-8 人	高	✅ 大力投入
100 单	$0.10	$300	0.5-1 人	中	✅ 可做
10 单	$0.20	$60	< 0.1 人	低	⚠️ 谨慎
1 单	$0.50	$15	忽略不计	负	❌ 不建议

六、给决策者的三条建议

1. 不要只看 API 费用算 ROI——水面下的四层成本加起来是 API 费的 2-3 倍。把审校成本算进去后，很多看起来"划算"的项目就不划算了。
2. 高频场景先做——100+/天的场景 Agent 的价值在于速度和规模化，不是省钱。低频场景往往 ROI 为负。
3. 设置成本监控——上线后持续跟踪实际成本 vs 预估算成本。偏差超过 30% 时及时调整。我的自进化引擎里就有这个功能——执行数据入库后自动统计。

---