深言速舟 · 学习站

3 供给格局

Token 工厂拆解手册:从 GPU、推理服务到合同与现金流第一部分 行业坐标约 52 分钟更新于 2026-08-04

3.1 卡的形态

先把物理形态说清楚,后面所有的钱都挂在这些数字上。行业里说的一台机器,标准形态是八张 GPU 加两颗 CPU、若干网卡,装在一个机箱里。报价单上的 30 万一台,指的是这整台八卡机的月租。

参数B300 单卡说明来源
显存288 GB HBM3e12 层堆叠,比 B200 的 192 GB 多五成核
显存带宽约 8 TB/s决定 decode 阶段的出字速度,见 15.2核
功耗约 1400 W八卡整机加配套超过 12 kW,普通机房供不上核
卡间互联NVLink 5,约 1.8 TB/s同机内八卡可当一个大显存池用核
整机显存约 2.3 TB决定单机能装下多大的模型核
图 8一台八卡机的内部结构
单台服务器 约 12 kWGPU0288GBGPU1288GBGPU2288GBGPU3288GBGPU4288GBGPU5288GBGPU6288GBGPU7288GBNVLink 交换域 卡间 1.8 TB/s 八卡显存合计约 2.3 TBCPU 与内存网卡 对外 400G 到 800G机柜 与 供电制冷高密度需液冷,普通风冷机房装不下
示意图,不表示实际物理布局。GB300 NVL72 是另一种形态,把 72 张卡通过 NVLink 连成一个统一内存域。
记住三个数:一台八张卡,一张卡 288G 显存,整机 2.3T。模型装不装得下,看的就是这个 2.3T。

3.2 全球链路

从晶圆到 token,中间有六段,每一段都有人分钱。理解这条链最重要的用处是判断:某个环节的超额利润是结构性的,还是暂时的。

链条上利润分布极不均匀,而且会随供需移动。当卡紧缺时,利润集中在第四、第五段,谁拿得到货谁赚钱;当卡宽松时,利润向第六段转移,谁跑得快谁赚钱。2026 年中的状态是前者:录音里的原话是超额收益都在供应链手里。录

图 9从晶圆到 token 的完整链路
晶圆制造台积电芯片设计英伟达 AMD整机组装OEM ODM机房上架电 柜 网产能持有买断或长租token 生产推理运营方需求侧模型厂 聚合平台 企业客户本册主角站在第六段。它的上游是第五段的产能持有方,下游是需求侧。第五段和第六段可以是同一家,也可以拆开,拆开与否决定了资本结构,见第 15 章。
链路为逻辑顺序,现实中云厂可能同时占据第三到第六段。
从台积电到 token 一共六段。我们只做最后一段,前面五段的成本都是我们的进价。

3.3 管制作用

美国出口管制是这条链上最重要的外生变量,它决定了卡能流到哪里、不能流到哪里。本节只陈述公开规则和时点,不做合规结论。

时点规则要点对产业的直接影响
2022 年 10 月起对先进计算芯片与半导体设备的对华出口设限,此后多轮加码高端 GPU 无法合法直接进入中国大陆
2025 年 9 月 29 日Affiliates Rule 生效,实体清单效力延伸至其持股 50% 以上的境外实体壳公司持股结构被穿透
2025 年 11 月 10 日起白宫宣布 Affiliates Rule 实施暂停一年规则存在但执行被推迟,产生不确定区间
2026 年 1 月 15 日H200、MI325X 等对华许可审查由推定拒绝改为逐案审查中低端型号出现有条件通道
2026 年 5 月 31 日BIS 明确:受控先进计算物项出口给总部位于 D:5 组或澳门的实体,或其最终母公司位于该等辖区的实体,即使该实体本身在境外,同样需要许可以属地为准的判断标准改为以最终母公司为准

最后一条是转折点。在此之前,一家注册在新加坡或马来西亚的公司,只要注册地在管制辖区之外,采购路径存在解释空间。此后,判断锚点从公司在哪里注册变成最终母公司总部在哪里。核公开评论普遍将其描述为关闭了新马一线的离岸采购通道。第 32 章会展开这条规则的核验方法。

图 10判断锚点从属地转为母公司
2026 年 5 月 31 日之前中国母公司新加坡子公司采购受控 GPU按注册地判断解释空间2026 年 5 月 31 日之后中国母公司新加坡子公司采购受控 GPU按最终母公司判断需要许可穿透看最终母公司总部所在地本图只描述判断锚点的变化,不构成对任何具体结构的合规评价。
规则原文与适用范围以 BIS 公告为准,跨境交易须取得专业法律意见。
以前看公司注册在哪,现在看最终母公司在哪。这一条把很多既有结构的前提改掉了。

3.4 境内结构

中国大陆的高端 GPU 大量进入训练集群,可用于在线推理的份额因而更紧张。训练和推理抢的是同一批卡,但两者的付费逻辑完全不同。

训练对模型公司是资本开支,不计投入产出比。录音里的表述是:今年要投几百亿做训练就一定要投出去,不投就死掉,模型训好了股价、估值、一切都有。录推理是经营性支出,要算每一台机器的回报。两种资金放在同一个竞价市场里,推理侧必然出不起价。

图 11训练与推理的竞价逻辑差异
训练需求资金性质:资本开支回报衡量:模型排名与估值价格敏感度:低出得起价,先拿货推理需求资金性质:经营支出回报衡量:单机月度现金流价格敏感度:高算得清账,出价有顶同一批卡,两种资金竞价,结果是推理侧长期拿不到高端产能这条规律不限于中国,只是在供给受限的市场里被放大
示意结构。实际采购中模型公司也会区分训练与推理预算,此处强调的是极端情形下的优先级。
不是没人愿意为推理付钱,是训练那边的钱不讲回报率,价格一路顶上去,推理这边算不过来。

录音里给出的境内数量口径:2026 年 3 月起每月约 1000 到 1500 台 B300 或等效产能进入中国,全年约 15000 台,其中九成以上用于训练,实际用于推理的可能不到 1500 台。录这些数字未经我方核实,但其结构性判断与公开的管制事实方向一致:总量受限加上训练优先,推理侧只能吃剩下的部分。

3.5 国产约束

国产芯片的瓶颈在产能,不在设计。这是本节唯一需要记住的判断。

录音里两位从业者分别给出的口径:华为年产能约 140 万到 160 万片,另一家已在港股上市的国产 GPU 厂商年产能在 20 万片以内,所有国产厂商加总不超过 500 万片;这些产能会优先分配给军方、央国企、科研机构和头部模型公司做训练。录待具体数字待核,但产能优先级的分配逻辑与境内高端卡的情况一致。

图 12国产卡产能的分配次序
年度可用国产 AI 芯片产能训练与国家任务头部模型厂适配其他第三方推理运营方能拿到的部分在最右侧,且不稳定三年内的三条判断设计代差约落后一到两代产能硬约束先进制程与封装受限生态成熟度算子与框架适配成本高对推理业务的含义:国产卡短期内不是主力产能来源,但可以作为异构组合里的一部分承担特定阶段的负载,见 7.4。
比例为示意,不代表任何厂商的真实产能分配。具体数字见第 24 章待核清单。
国产卡不是不能用,是拿不到。能拿到的那部分先给训练和国家任务,轮不到商业推理。
追问对方说有货时,货处在链条第几段,是有渠道、有报价、有租约还是已上架;他赚的是哪一段的钱,这段利润是结构性的还是窗口性的。

修订记录

日期改了什么为什么谁
2026-08-04按章导入,正文与插图保持原样原稿结构清晰,重写反而损失信息工程