深言速舟 · 学习站

2 需求起点

Token 工厂拆解手册:从 GPU、推理服务到合同与现金流第一部分 行业坐标约 35 分钟更新于 2026-08-04

2.1 变现困局

2025 年整个中国大模型行业没有找到能规模化的收费方式,这是理解 2026 年的前提。在 token 工厂出现之前,行业试过三种卖法,三种都撞墙。

第一种是卖一体机:把模型预装进一台服务器卖给政企客户。硬件毛利薄,更致命的是买回去没有应用可跑。录音里一位从业者说得很直白,去年卖了很多一体机,机器上面没有应用,没有一家 agent 厂商能在本地部署环境里跑通。录原因是技术性的:agent 厂商习惯在云端开发,本地部署要限制并发、限制上下文长度,做不到。

第二种是卖闭源模型授权。一套千亿参数级模型加部署服务卖数千万元。这条路被开源模型直接终结:客户实测发现,付费买的闭源模型不如免费下载的开源模型。录一旦这个对比发生,模型本身作为资产的定价就崩了。

第三种是卖 agent 定制。单笔金额上得去,但每个客户都是半定制,要投很多人、收款周期长,一群高薪工程师围着一个甲方的需求转。做得再好也就一两千万营收,再往上就得新开行业、新开客户,难以在短期内规模化。

图 4三条变现路径为什么都撞墙
路径卖的是什么撞墙点结局卖一体机硬件加预装模型买回去没有应用可跑硬件毛利,无复购卖模型授权模型权重加部署服务开源模型免费且更好资产定价归零卖 agent按客户定制的智能体每单半定制,人力不可复用小而美,难规模化卖 token标准化的推理输出受限于能拿到多少卡可规模化,本册主角共同规律前三种都在卖非标品:交付要人,定价靠谈,规模靠加人头。第四种卖的是标准品:交付是 API,定价有公开锚,规模靠加机器。这条分界线决定了谁能做大,与技术水平高低无关。
四条路径在现实中并存,不是时间上的严格替代关系。
前三年大家都在卖非标,卖非标就规模不起来。token 是这个行业第一种接近标准化交付的产品。

2.2 编程拐点

让 token 需求开始起量的是 AI 编程,不是聊天。录音里的判断是:2026 年春节后,开源模型在编程能力上跨过可用线,token 的经济学才成立,这个行业满打满算只有四个月。录

为什么是编程而不是别的场景,要看单次交互的 token 消耗量级。一次普通对话大约消耗几百到几千 token。一次 AI 编程任务要读代码库、生成补丁、跑测试、读报错、再改,一个任务轻松消耗几十万 token,而且是自动循环,人不在环里。同样一个用户,从聊天转向编程,token 消耗上升两到三个数量级。

图 5单次任务的 token 量级差
闲聊问答约 1 千文档摘要约 1.5 万多轮客服约 3 万检索增强问答约 6 万单次编程任务约 30 万长时智能体任务百万级对数直觉:每上一档大约十倍
量级为行业常见区间的示意,非严格比例,实际值随模型、上下文长度、缓存命中率波动很大。
聊天一次一千 token,写代码一次三十万。需求爆发不是用户变多,是每个用户变重了三百倍。

这个转变有个副作用,对供给侧极其重要:编程类流量的上下文很长。读一个代码库动辄几万到几十万 token 的输入。长上下文意味着显存里要存的中间状态暴涨,这直接决定了为什么这门生意必须用最新、显存最大的卡,第 10 章会拆这个机制。

2.3 需求曲线

公开数据能验证需求爆发的规模和方向。以 OpenRouter 这个中立的模型路由市场为例,它是观察真实开发者选择的少数干净信号之一。

指标2025 年中2026 年年中来源等级
平台周处理量约 5 万亿 token20 到 25 万亿 token核 平台披露与媒体报道
美国模型份额约 70%约 30%核 Bloomberg 引 Exponential View
中国模型周处理量极小约 18 万亿 token核 平台数据报道
单一最大供给方OpenAI 系DeepSeek 约 16.3%核 2026 年 6 月榜单
图 6token 消耗量与消费金额的错位
按 token 数量开放权重模型 约 29%闭源模型 约 71%按消费金额闭源模型 96% 以上这个错位就是 token 工厂的生存空间:开放权重模型承接了近三分之一的调用量,却只对应不到 4% 的行业收入。谁能把这部分量以更低成本接住,谁就分到了原本属于闭源模型的那笔钱。
数据为 Vercel AI Gateway Production Index 2026 年 6 月口径,覆盖企业侧路由流量,不代表全市场。
开放权重模型占了三成的量,只占不到 4% 的钱。这中间的差额就是我们要去接的生意。

这张图给出后文的经济学起点:token 工厂把成本较低的开放权重模型做成稳定服务,收入来自它与高价闭源调用之间的可替代空间。

2.4 开源前提

如果没有高质量的开放权重模型,这门生意根本不存在。逻辑链很短:闭源模型的权重拿不到,任何第三方都不可能自建产能去服务它;只有权重公开可下载,独立运营方才能买卡、部署、对外卖 token。

2026 年 7 月的公开事实:Moonshot 发布 Kimi K3,2.8 万亿总参数、每次前向从 896 个专家中激活约 1040 亿参数、100 万 token 上下文,7 月 16 日开放 API、7 月 27 日放出全部权重,采用修改版 MIT 许可。核同期阿里预告 2.4 万亿参数的开放权重模型。核这是开放权重第一次把差距缩小到可直接比较。

图 7开放权重决定了产业结构
闭源路径模型厂自己训练只开放 API模型厂独占推理产能第三方无位置可站算力只能裸租给模型厂开放权重路径模型厂训练后放权重任何人可自建产能推理层出现独立市场token 工厂在这里诞生靠工程效率而非模型能力竞争
开放权重不等于无限制使用,各家许可条款不同,商用前需逐个核对 licence。
我们这门生意完全建立在开放权重上。哪天头部模型全部转闭源,这条路就断了,这是要长期盯的风险。
追问你的 token 需求来自哪类负载,聊天还是编程;这条需求曲线里有多少是你自己客户的一手数据,多少是平台榜单的转述。

修订记录

日期改了什么为什么谁
2026-08-04按章导入,正文与插图保持原样原稿结构清晰,重写反而损失信息工程