深言速舟 · 学习站

B 公式误读

Token 工厂拆解手册:从 GPU、推理服务到合同与现金流附录约 4 分钟更新于 2026-08-04

本册用到的七个公式集中列在这里,每个都带边界说明;后面是十个最常见的误读。公式的分母和时间窗口一旦换掉,结论就不再是同一个结论。

一,权重显存下界。权重内存(字节)约等于 参数量 乘 每参数位数 除以 8。这是下界,不含 KV 缓存、量化尺度、工作区、通信缓冲和运行时保留。

二,请求完成时间。端到端时间约等于 首字延迟 加(输出 token 数 减 1)乘 出字间隔。第一个输出 token 已包含在首字延迟里;不同监控系统对起止点定义可能不同,对比前先对齐口径。

三,有效吞吐。有效吞吐等于 测量窗口内成功且可计费的 token 除以 窗口时长。失败、取消、重试和不计费 token 是否进入分子必须明确。

四,可售利用率。可售利用率等于 实际可计费容量 除以 同期满足服务目标的可用容量。分母不是理论峰值,也不是 GPU 开机时间。

五,单位完全成本。单位成本等于(同期设备与资金 加 机房电力网络 加 软件运维 加 故障闲置 加 渠道与结算)除以 同期可计费 token。分子统一币种和周期,分母区分输入、缓存输入和输出。

六,毛利与边际贡献。毛利等于 收入 减 与交付直接相关的成本;边际贡献等于 收入 减 随业务量变化的可避免成本。边际贡献回答业务量增减时能留下多少,毛利受会计归类影响,比较前先统一口径。

七,可用性允许停机。允许停机时间等于 观察窗口 乘(1 减 可用性目标)。还要定义计划维护、上游故障和部分降级是否计入。

十个常见误读,每一条都在本册的某一章有完整展开:

误读为什么不成立对应章节
参数越大,单位 token 价值越高价值取决于负载与售价,不取决于规模14 25
峰值 FLOPS 越高,端到端吞吐一定越高decode 受带宽约束,算力可能在等数据10 15
显存占满,说明 GPU 被有效利用占用不等于产出,可能是碎片或滞留状态16 22
TPS 高,说明满足客户要求首字、P99 和错误率是独立约束22
TPM 大,说明收入大可计费与已回款才是收入口径26
有 GPU,就有产能七道门任何一道未过都不可售8
有客户关系,就有订单需求五级漏斗逐级衰减40
设备在海外,数据和责任就在海外五个位置可以分散在五个法域31
SPV 存在,风险就已隔离隔离取决于担保、控制和破产处置30
公开价格存在,合同就能按此成交公开价不含协商、承诺与折扣结构25 28

修订记录

日期改了什么为什么谁
2026-08-04按章导入,正文与插图保持原样原稿结构清晰,重写反而损失信息工程