深言速舟 · 学习站

12 机房运维

Token 工厂拆解手册:从 GPU、推理服务到合同与现金流第三部分 算力底座约 17 分钟更新于 2026-08-04

12.1 密度变化

买到 GPU 只解决了设备是否存在,没有回答设备能否上电、热量能否排走、请求能否进来、故障能否隔离。高密度推理集群稀缺的是接入电力、冷却、网络并有人持续运维的可部署容量,单独一张卡不算产能。这也是技术和 BD 最容易说岔的地方:技术说需要 120 kW 机架,说的是设施接口;BD 说已经锁定一批机器,说的是资产或合同。两句话可以同时为真,但仍然没有一台机器能服务客户。

密度上升改变了交付对象。过去一台通用服务器功率较低,机柜是相对标准化的容器;机架级 AI 系统把计算、交换和供电紧密耦合后,机柜本身接近一个小型工业系统。公开资料显示 GB200 NVL72 一个机架 72 块 GPU、功率量级约 120 kW,依赖液冷歧管、冷板和漏液检测。核这个数字只适用于相应产品,它揭示的机制却普遍成立:设备密度上升后,电力和排热从背景条件变成部署的硬约束。一台八卡 B300 整机的 IT 功耗超过 11 kW,加上制冷与配电损耗,单机柜功率密度轻松超过 40 kW,远高于传统机房 5 到 10 kW 的设计,大量既有机房物理上装不下这类设备,即使有空位也上不了架。

图 23从电到 token 的物理链条
电力接入变电容量配电UPS 与母线机柜高密度支持制冷液冷或风冷上架通电机器就位产出 token开始计费任何一环缺位,机器就只是一堆资产,不产生任何收入。现实中最常见的卡点是第三环与第四环:有电有地,但机柜密度和制冷方案不支持,改造周期以月计。这也是既有训练机房溢出产能之所以有价值的原因,它们的电、柜、冷已经就位,只需换一批负载。尽调时这一环要看现场照片与配电单线图,不能只看合同。
功率密度数字为公开规格推算,具体以厂商机架级规格书为准。
能上架的机房比有机器的机房稀缺。看货源先看电和柜,不是先看价格。

12.2 六次变成

从资产到产能,一张卡至少经历六次状态转换:已购买或已租赁,到已到场且权属清楚,到已上架供电冷却联网,到集群与软件栈通过验收,到模型在目标负载下稳定运行,到客户能按约定指标持续调用。这六次转换就是第 8 章第一门的局部状态机,不另起一套流程。任何一步停住,后面的容量都不能计入可售供给。由此得到一个防止重复计数的账本公式:可部署 GPU 数等于以下各项的最小值:权属清晰的设备数、机柜可承载数、电力可承载数、冷却可承载数、网络可承载数、已验收可运维数。资产方持有 72 块卡而站点只能给出半架功率,分子就不能继续写 72。

12.3 资源约束

供电不只看园区总容量。站点宣传的兆瓦数可能是园区规划、已获批容量、已接电容量,或多租户共享的总量。推理部署要落到机柜:可交付多少千瓦,主备路径怎样,UPS 和发电机覆盖什么,配电单点在哪里,电费按什么口径计量。最便宜的验证动作不是听园区介绍,而是取得单线图、接电协议、机柜配电设计、实际功率曲线和扩容里程碑;没有这些材料,锁定 10 MW 仍可能只是园区级意向。

散热要沿水路和责任链检查。冷板把芯片热量带到机架液冷回路,机架回路再与设施水系统交换热量。只写支持液冷会漏掉关键接口:供回水温度、流量、水质、冷却液分配单元、泵和换热器的冗余、漏液检测、检修隔离。技术团队关心温度流量,资产方关心设备保修,机房关心设施水路,本地运维关心谁能关阀门、谁能批准停机;合同只写机房提供冷却,出现局部热点或漏液时,很可能没人对恢复 token 容量负责。

机柜、布线和承重不能事后补齐。承重、运输通道、机架尺寸、光纤路径、母线、管路和维护空间都会改变上架节奏。机柜验收至少形成:设备位置、序列号、端口、配电回路、冷却接口、带外管理地址和现场照片。同一批设备分散在多个故障域时,还要记录它们是否共用上游配电、冷却、核心交换机或公网出口:两排机柜不一定是两个独立故障域,两个园区也可能共用同一条跨境链路。

PUE 不能替代单位 token 效率。电能使用效率衡量设施为支撑 IT 设备额外消耗多少能源,越接近 1 表示辅助能耗越少,但它不表示模型效率,更不表示商业效率:相同 PUE 下,两个集群可能因为模型、量化、缓存命中率和空闲率不同,产生完全不同的单位 token 成本。设施层记可交付千瓦和 PUE,系统层记节点健康和利用率,产品层记成功 token、延迟和单位成本,三层要分开,我们的 PUE 很低推不出我们的 token 很便宜。

12.4 网络体验

站点选择常用平均网络时延排序,但一次请求还要经过域名解析、建连和加密握手,用户体验还受往返时延、抖动、丢包和路由切换影响。对推理业务,网络测试必须连到应用层:从真实客户网络、真实 API 域名持续测解析建连时间、分位数时延与丢包、网关排队、首字延迟、相邻 token 间隔和流式连接中断率。只在机房内测内核覆盖不了公网出口和客户端,只做一次跨境 ping 覆盖不了峰谷拥塞。站点不是越靠近某个国家标签越好,而是越靠近实际用户与数据路径越好:中国客户、东南亚客户和欧美客户可能需要不同入口、模型副本和切换策略,把所有流量强行绕到同一个海外中心,是拿一个局部价差换持续的网络和责任风险。

12.5 口径差异

为什么宣传容量总比可售容量大:园区按规划容量讲故事,资产方按机器数量融资,运营方按在线节点排产,销售按可卖 token 报价,四方使用不同分母,却都简称产能。这是口径差异,不必先归因于恶意,但没有统一的验收状态,它会自然放大乐观数字。更稳的做法是给每台设备设状态机:已签约、已付款、已交付、已上架、已验收、已装载、可调度、可计费、降级、维修。销售只能读取可计费状态及其冗余余量,融资材料则同时披露其他状态。这样技术团队不必反复解释为什么有卡不能卖,BD 也能看到容量卡在哪个具体接口。

12.6 四份账本

验收时只看四份账。

  • 资产账 型号、序列号、权属、租赁与支持权益
  • 设施账 机柜、配电、冷却、网络、故障域与容量余量
  • 运行账 节点健康、模型装载、真实负载、监控与恢复演练
  • 产品账 客户路径、token 计量、延迟、完成率与可售冗余

四份账能互相勾稽,才可以说这批 GPU 已经变成产能;只拿到设备照片和园区介绍,结论最多是存在候选资产和候选场地。

验收也不是一次开机仪式,应分设计、安装、单机、集群、负载五级,每级有明确的进入条件和退出证据:设计图通过不等于安装完成,空载烧机不等于长时间推理稳定,机房内压测不等于客户跨境路径可用。更稳妥的里程碑是:设施验收后才上架,集群验收后才计入技术容量,真实负载与网络验收后才计入可售容量,客户验收后才进入 SLA 计费,每一步的付款比例和责任转移分别约定,让工程事实和商业激励对齐。

追问锁定的是园区意向还是机柜级的接电协议;每机柜能交付多少千瓦、什么时候;设备状态机里现在有多少台真正处于可计费状态。

修订记录

日期改了什么为什么谁
2026-08-04按章导入,正文与插图保持原样原稿结构清晰,重写反而损失信息工程