深言速舟 · 学习站

8 产能成品

Token 工厂拆解手册:从 GPU、推理服务到合同与现金流第二部分 业务闭环约 18 分钟更新于 2026-08-04

8.1 七道闸门

买到 GPU 只是获得一项物理输入,客户购买的却是另一种结果:在指定时间、区域、模型和服务等级下,把请求稳定变成输出。两者之间隔着七道门,少过一道,产能都停留在账面上。这七道门是全书的总交付闸门:第 12 章的机房状态机是第一门的局部展开,第 31 章的海外检查是跨境场景的附加条件,第 40 章的六个实验是验证这些门是否通过的方法。

图 19裸算力变成可售服务的七道闸门
一 设备可用 健康压测与 RMA 边界 二 集群通信 真实拓扑与故障域 三 软件可复 镜像基线可重建 四 模型有权 许可与部署条件 五 性能成立 约束内可复现基线 六 服务治理 观察加执行的闭环 七 验收结算 进入订单与账单 可售产能 开票与回款 收入在第七门确认,成本从第一门发生 起租、部署与客户验收之间相隔数周时,现金流压力先于收入出现 每道门都有独立的责任人、验收物与起算点,任何一门未过,后面的容量不能计入可售供给
门一到四为技术就绪,门五到六为服务就绪,门七为商业就绪。示意图,不代表某个具体项目的进度。
别问卡到了没有,问七道门过了几道、每道门的证据在哪。
七道门各自的验收物
门过门的唯一证据谁签字
一 设备可用压测报告加故障与返修授权边界资产方与运营方
二 集群互通一张带速率与故障域的真实拓扑机房与运营方
三 软件可重复版本化镜像与一次重建演练记录运营方
四 模型有权许可证原文快照加部署配置运营方与法务
五 性能成立约束内有效吞吐的可复现基线运营方
六 治理可控观察与执行都齐的控制回路运营方
七 可验收结算客户签署的验收口径与首张账单客户与商务

第一门,设备真的可用。到货与可生产不是同一状态。验收至少要确认型号与数量、GPU 和显存健康、互联拓扑、固件驱动、功率与散热、故障记录和返修授权(RMA)边界。整机通电成功不能替代持续压力测试,一张卡间歇报错,可能在高并发下拖累整机。资产所有人、机房和运营方在这一门的责任常常不同:所有人承担资产与残值,机房负责供电和物理环境,运营方负责节点健康与隔离。合同若只写提供设备,不定义健康标准和起租条件,闲置与故障成本就会在三方之间扯皮。

第二门,集群能够通信。能远程登录一台机器,不代表多卡模型能按预期通信;单机互联正常,也不代表跨机流量、出口带宽和客户路径稳定。这一门的输出应该是一张真实拓扑:节点、交换机、链路速率、故障域、出口和访问控制。海外部署还要标出管理团队、客户和日志所在位置。没有拓扑,延迟和数据责任都无法归因。

第三门,软件栈可重复。驱动、CUDA 或其他加速栈、容器、推理引擎、模型依赖、调度和监控要形成版本化基线。工程师在一台机器上手工修好环境,只证明个人能救火;镜像、配置和自动化能够重建,才说明组织拥有服务能力。软件升级有二阶效应:一次升级的直接收益可能是吞吐上升,间接影响可能是数值行为、模型兼容或监控字段变化,进而影响客户验收和账单,生产变更必须同时保留性能、质量与回滚证据。

第四门,模型有权且能部署。技术上需要权重、分词器、精度、并行配置、上下文和运行时兼容;商业上需要确认许可证、地域、用途和转售边界。能下载权重不等于能以任何方式对外售卖。模型也不是静态零件:版本升级、上下文扩展、量化和安全策略都会改变显存、吞吐与输出,每个可售模型应有版本、配置、容量和弃用计划。

第五门,性能在约束下成立。峰值 token/s 最容易得到,也最容易误导。可售产能必须绑定模型、硬件、精度、长度分布、并发、首字延迟、出字间隔、错误率和持续时间。DistServe 用约束内有效吞吐(goodput)描述服务能力:只计算在目标约束内完成的请求。核商业产能应当按时完成的有效请求算,而不是裸吞吐。这一门的验收物不是一张最好看的表,而是一套可复现基线:固定数据集、生成参数、负载发生器、原始日志、版本和计算脚本。

第六门,服务治理能处理变化。模型成功返回一次请求,不代表服务可以长期运行。治理层承担鉴权、限流、配额、路由、发布、回滚、监控、告警、故障切换、计量和支持。控制循环必须同时具备观察和执行:指标、日志和追踪让运营方知道发生了什么,路由、调度、限流、降级和回滚让系统能采取动作,只有大屏没有执行权限,不是闭环。一个副本退出后,剩余副本队列变长,尾延迟触发更多重试,重试进一步加压,网关若没有退避、去重和熔断,局部故障会滚成全局拥塞,运维的价值就在于阻断这类反馈。

第七门,客户可以验收与结算。内部基准只是供应方证据,客户验收还要确认入口、鉴权、模型版本、负载脚本、指标口径、数据处理、账单和故障流程。只有这些结果进入订单和 SLA,技术能力才变成商业承诺。99.9% 可用若没有对象、时间窗、错误定义和索赔过程,无法执行;客户能否从自己的监控复核,决定了争议成本。

8.2 经营对照

门收入何时成立主要风险激励冲突
设备起租或验收故障、残值所有人想尽早起租
网络连通与带宽交付拥塞、路径各方容易推诿
软件平台或运维费兼容、升级追新与稳定冲突
模型API 或许可收入版本、地域模型方与渠道目标不同
性能容量可销售峰值失真销售偏好最好的数字
治理服务可持续拥塞、故障利用率与余量冲突
验收开票与回款争议、违约客户要弹性,供应方要承诺

这张表揭示一个常见问题:收入在最后一门确认,许多成本却从第一门就开始发生。按需 GPU 实例即使没有活跃负载仍按运行时间计费,就是最直接的闲置例子。如果起租、部署和客户验收之间相隔数周,现金流压力会先于收入出现,第 29 章的现金曲线正是这个结构的放大版。

8.3 最小启动

启动时应先用最小但真实的链路完成七门验收:一组明确设备、一个可授权模型、一套固定工作负载、一个真实访问入口、可导出的指标和账单、一次故障演练、一个明确的客户验收人。小规模试验的目的是尽早暴露谁没有控制权、哪个接口没有数据、哪项成本被漏算。只有这些问题在小规模时可修复,扩大规模才会增加产出;否则规模只会放大固定成本和责任争议。这条原则在第 40 章会展开成六个具体实验。

追问每道门的责任人、验收物、起算点和失败处理分别是什么;对方现在卡在哪一道门,打算用什么证据过。

修订记录

日期改了什么为什么谁
2026-08-04按章导入,正文与插图保持原样原稿结构清晰,重写反而损失信息工程