租 GPU 还是买 GPU？一台 H100 三年成本账算给你看

一、先看采购这笔账：不止是整机价

一台 H100 8 卡整机采购价约 220-250 万元，且交期常以月计。这只是起点：要跑起来还需要 8-10kW 高功率机柜（普通机柜放不下）、冗余供电与制冷改造、InfiniBand 组网，以及至少一名懂 GPU 集群运维的工程师。

把这些摊进第一年，实际投入通常比整机价再高 15-20%。

二、再看租赁这笔账：把资产变成账单

以当前现货行情，H100 8 卡整机租用约 ¥105000/月（随供需每周波动），包含机房环境、网络与基础运维，开通以天计。租三年的总支出约 378 万，表面比买贵——但你省下了 220 万级的一次性现金流，也把卡型迭代的风险交给了服务商。

用财务语言说：租是把固定资产折算成运营费用（OPEX），买是资本开支（CAPEX），两者对现金流和报表的影响完全不同。

三、决定胜负的变量：利用率

采购合算的前提是卡在满负荷跑：利用率 70% 以上时，买的单卡小时成本才明显低于租。但多数团队的真实利用率远低于预期——白天调试、夜间排队数据、项目间歇空转，实际往往只有 30-50%。

建议先用租用跑一个季度，拿到真实的利用率曲线再决定要不要买，这半年的租金就是最便宜的决策成本。

四、技术迭代：三年后你的卡还值多少

GPU 一年一代：H100 之后有 H200、B200，每次代际更替，上一代卡的市场租价与残值都会明显下探。按近几代的规律，三年机龄的高端训练卡残值通常只剩购入价三成左右。

这笔折旧要么自己扛（买），要么已含在租金里（租）。技术迭代越快，租的相对优势越大。

五、决策清单与建议

买：利用率 70%+、周期三年以上、有机房与运维团队、预算充足且卡型稳定；租：业务波动、项目制、需要最新卡型、不想占用大额现金流；混合：核心长期负载少量自持 + 峰值需求租用弹性补足。

把你的模型规模与预期利用率发给我们，我们按三年 TCO 帮你对比「全租 / 全买 / 混合」三套方案的实际支出。