1 阅读指南
1.1 全书路线
这份手册从一条朴素的链路讲起:GPU 接上电和网络,部署开放权重模型,服务按 token 计量,再通过 API 卖给客户。业内把经营这段产能的人叫 token 工厂(token factory),也有人说通用工厂或推理工厂。这类公司通常不训练基础模型,也不只出租裸算力;它们负责把模型跑成可持续调用的服务,常见报价单位是每百万 token。
直接材料来自三段录音。2026 年 7 月 29 日,北京一家国内头部推理公司的商业化负责人用了大约七个小时,介绍供给、需求、价格、资本结构和跨境安排。信息很多,但证据性质很单一:这是一家公司在特定时点、带着说服目的做的自述。手册把其中的论断逐条拆开,再补入底层机制和可复查的外部资料。读者最后要能自己回答五个问题:服务交付给谁,资源和接口由谁控制,系统卡在哪里,收入、成本、资产与风险落在哪个主体,以及每个重要判断究竟来自公开事实、录音陈述还是示例测算。
投资、合作和跨境结构的合法性判断留给具体项目。它们需要明确的主体、合同、事实调查和专业意见。这份手册只负责把问题与证据缺口摆到桌面上,避免后续判断被术语和会议气氛带着走。
阅读顺序取决于你手上的工作。做 BD 或商务判断,可以先读第一、二、五部分:先认清参与者和交付边界,再看账怎么算,最后用案例章节检查会议里的说法。至少要识别四种错位:把资产说成服务,把峰值当作产能,把意向写成订单,把结构设计当成合规结论。技术读者从第三、四部分进入更快,沿显存、互联、请求、缓存和调度一路看到流式返回。遇到任何优化,先问六件事:输入是什么,保存了什么状态,改了哪一步,瓶颈在哪里,省下什么资源,代价落给谁。参与方案设计或尽调的人再按顺序通读,重点盯住硬件验收、软件基线、服务承诺、计量和结算之间的接口。
时间很紧,就读第 1、6 章,再跳到第 7 至 9 章。接着看第 15、22、23 章的请求链和服务承诺,第 24 至 28 章的成本、收入与合同,最后用第 40 章整理核验动作。这样读只能建立坐标,不能代替索证,但足够帮你判断下一场会议该在哪句话上停下来。
1.2 术语基线
先把词说清楚。同一个术语在不同公司、不同合同里可能指向完全不同的东西,很多争议其实从定义就已经岔开。
| 词 | 本册定义 | 常见混淆 |
|---|---|---|
| token | 模型处理文本的最小计费单位,约等于 0.6 到 1.5 个汉字或 0.75 个英文单词 | 不是区块链的 token,两者毫无关系 |
| 推理 | 用已训练好的模型生成输出的过程,英文 inference | 与训练 training 争抢同一批卡,但资源画像完全不同 |
| 一台 | 行业默认指一台八卡服务器,不是一张卡 | 报价里说的 30 万一台,是 8 张 B300 的整机月租 |
| TPM | tokens per minute,每分钟吞吐,模型厂给供应商配额时的常用单位 | 有时也写作 TPS,按秒算,差 60 倍 |
| 卡时 | 一张 GPU 运行一小时,是算力租赁的国际通行计价单位 | 美金卡时与人民币整机月租之间要换算才可比 |
| 通用工厂 | 本册指 token 工厂,即不绑定单一模型、按 token 批发的推理产能运营方 | 与云厂的裸算力出租不是一回事 |
| MaaS | Model as a Service,模型即服务,对外提供 API 的平台形态 | MaaS 平台可能自己不持有算力 |
| 开源模型 | 权重公开可下载的模型,严格说应叫开放权重 open weight | 开放权重不等于开源许可,licence 要单独看 |
1.3 证据分级
每个关键数字都要带来源等级。口述、公开文件和示例测算不能混成一套事实。录音里提到的规模、客户、性能、价格、收益率与合规判断,先按“录音口径”记录;听起来合理,也不会自动升级为已核实事实。
| 标记 | 含义 | 使用要求 |
|---|---|---|
| 录 录音口径 | 来自 2026-07-29 三段录音中当事人的自述 | 只代表说话人的表述,未经我方核实,不得作为决策依据 |
| 核 外部可核 | 来自公开报道、厂商文档、监管文件、公司披露 | 标注来源与时点,读者可自行复查 |
| 例 示例测算 | 为演示计算方法而设置的假设数字 | 替换成真实参数后才能用于决策,不代表任何真实项目 |
| 待 待核 | 关键但尚无可靠来源,或不同来源相互冲突 | 列入待核清单,见第 41 章 |
公开资料也有使用边界。产品规格只能说明厂商公布了什么,价格页不能代替合同价,论文基准也不能代替生产环境的服务承诺。本次研究统一截至 2026 年 7 月 31 日;此后的硬件、模型、价格、出口管制和数据规则都要重新核验。
还要交代录音的语境。说话人熟悉行业,也在争取在场者加入一个正在筹划的项目。这样的自述往往把有利数字放在前面,把不利变量留到追问环节。这里不评价动机,只按商务材料的标准使用:先记录,再拆前提,最后索证。
修订记录
| 日期 | 改了什么 | 为什么 | 谁 |
|---|---|---|---|
| 2026-08-04 | 按章导入,正文与插图保持原样 | 原稿结构清晰,重写反而损失信息 | 工程 |