Apple Silicon 本地跑大模型，真的比 API 便宜吗？

原文来源：Will Angel — 一位开发者的深入分析：本地跑大模型真的比调用 API 更经济吗？作者从硬件成本、电力消耗、推理速度三个维度做了详细测算。

一个被忽视的问题

2026 年，越来越多的开发者开始重视 AI 编码的隐私和延迟问题。本地推理成了热门话题——在 Apple Silicon Mac 上跑一个开源模型，听起来既隐私又省钱。

但 Will Angel 算了笔账，结果令人意外：Apple Silicon 本地跑 LLM，每 token 的成本可能比调用 API 更贵。

硬件成本是关键

一台 14 英寸 M5 Max MacBook Pro（64GB 内存）的售价是 $4,299。这台机器可以在本地运行 Gemma 4 31B 这样的模型，性能接近 Anthropic Sonnet 级别。

但硬件成本分摊下来是这样的：

电力方面，M5 Max 满负载约 50-100W。按美国平均电价 $0.18/kWh 计算，每小时电力成本约 $0.02。

每百万 token 的成本

推理速度是关键变量。实测 M5 Max 跑 Gemma 4 31B 的速度在 10-40 tokens/秒 之间。

以 10 tokens/秒（较慢端）计算：

• 每小时产出：36,000 tokens
• 3 年折旧：每百万 token 约 $4.79
• 5 年折旧：每百万 token 约 $3.20

以 40 tokens/秒（较快端）计算：

• 每小时产出：144,000 tokens
• 3 年折旧：每百万 token 约 $1.61
• 5 年折旧：每百万 token 约 $1.04

作为对比，OpenRouter 上同等能力的模型价格大约在 $0.50-$1.00 每百万 token 之间，而且推理速度是本地 2 倍左右。

其他隐性成本

除了硬件和电力，还有几个容易被忽略的成本：

1. 设备折旧加速 —— 持续满负载运行会加速硬件老化，电池循环次数、SSD 写入量都会暴增
2. 闲置成本 —— 你的 MacBook 不可能 24/7 都在跑推理，但硬件成本每天都在折旧
3. 机会成本 —— 把 $4,299 投入到其他地方，很可能有更好的回报
4. 模型更新 —— 开源模型版本迭代快，本地模型用过一段时间后可能就落后了

本地推理的真正价值

但这不意味着本地推理没有意义。成本只是其中一个维度，本地推理的独特价值在于：

• 隐私 —— 代码和敏感数据不需要离开你的机器
• 延迟可控 —— 没有网络波动，没有 API 限流
• 离线可用 —— 飞机上、网络差的地方也能用
• 无限调用 —— 没有 API 配额限制

对于重度 AI 编码用户，每天调用数千次 API 的情况下，本地推理可能反而更经济。

混合策略可能是最优解

最理性的方案可能不是二选一：

结论

本地推理的每 token 成本约为 API 的 2-5 倍，但它在隐私和可控性方面的优势是无法用钱衡量的。

如果你主要使用 Cursor 或 Claude Code 这类工具，且 API 账单每月超过 $100，购买一台 M5 Max Mac 专门跑本地模型或许是个合理的选择。否则，OpenRouter 这样的 API 服务在经济上更适合大多数开发者。

问题的关键不是「本地 vs API 哪个更好」，而是「我属于哪种使用场景」。这个答案因人而异。