H100 还是 H800
两张卡的显存一样大、带宽一样宽，跑单机推理几乎看不出差别。真正的分水岭在 NVLink：900 GB/s 和 400 GB/s，决定了你做张量并行时是在等通信还是在算。
H100 和 H800 差在哪，多花 6,000 元/月值不值？
单卡算力与显存两者一致，差距集中在两处：NVLink 互联带宽（H100 900 GB/s，H800 400 GB/s）与 FP64 双精度（H100 约 34 TFLOPS，H800 约 1 TFLOPS）。如果你的任务是单卡推理、单卡微调、或数据并行训练，H800 完全够用，省下的 6,000 元/月可以多租 18% 的卡时。如果要做张量并行（TP>1）、MoE、长上下文训练或多机大规模训练，NVLink 带宽会直接决定吞吐，这时 H100 的溢价是值得的。
- 显存、显存带宽、FP8 支持：两者相同
- NVLink：H100 900 GB/s，H800 400 GB/s
- FP64：H100 约 34 TFLOPS，H800 约 1 TFLOPS
- 单卡推理与数据并行：H800 性价比更高
- 张量并行、MoE、多机训练：H100 优势明显
先说相同的部分，避免被销售话术带偏
H100 与 H800 在三个关键指标上完全一致：
| 指标 | H100 SXM | H800 | 影响 |
|---|---|---|---|
| 显存容量 | 80GB HBM3 | 80GB HBM3 | 能跑多大的模型，两者一样 |
| 显存带宽 | 3.35 TB/s | 3.35 TB/s | 单卡解码速度，两者一样 |
| FP8 支持 | 支持 | 支持 | 推理吞吐优化手段，两者一样 |
| 单卡 FP16 稠密算力 | 约 495 TFLOPS | 约 495 TFLOPS | 单卡前向与反向速度基本一致 |
真正不同的两处
差异只有两个地方，但都很关键：
| 指标 | H100 SXM | H800 | 为什么重要 |
|---|---|---|---|
| NVLink 带宽 | 900 GB/s | 400 GB/s | 多卡通信速度，决定张量并行效率 |
| FP64 双精度 | 约 34 TFLOPS | 约 1 TFLOPS | 科学计算、CFD、分子动力学几乎不可用 |
FP64 这一项只对科学计算类负载致命。跑深度学习的人几乎不会碰到 FP64——训练用 BF16/FP16，推理用 FP8/INT8。但如果你的项目是仿真、气象、流体、金融定价模型，H800 的 FP64 被砍到 1 TFLOPS 就等于不能用。
NVLink 这一项影响面更大，下文单独展开。
NVLink 影响的是「多卡像不像一张卡」
训练大模型时，一张卡装不下整个模型，就要把模型切开放在多张卡上——这叫张量并行（TP）。每算一层，卡与卡之间都要交换激活值。通信慢了，GPU 就会停下来等数据，利用率掉下去。
| 场景 | H100（900 GB/s） | H800（400 GB/s） | 差距 |
|---|---|---|---|
| 单次 All-Reduce 交换 1GB | 约 1.1 ms | 约 2.5 ms | 2.2 倍 |
| 70B 模型 TP=8 单步通信 | 占比低 | 占比明显上升 | 吞吐下降 15%~30% |
| 单卡独立推理（TP=1） | 无通信 | 无通信 | 无差别 |
| 数据并行（DP）训练 | 走 IB/RoCE，与 NVLink 关系小 | 同左 | 差别不大 |
结论：TP=1 或 DP 训练，H800 掉不了多少性能；TP≥4 的大模型训练，H100 的 NVLink 优势会直接体现在每小时能跑多少 step 上。
6,000 元差价怎么算
站内公示参考价：H100 八卡整机 38,000 元/月起，H800 八卡整机 32,000 元/月起。差价 6,000 元/月，折合每卡每月 750 元。
| 使用方式 | H800 是否够用 | 溢价判断 |
|---|---|---|
| 8 卡跑 7B~32B 推理服务 | 完全够用 | 不值得，省下 6,000 |
| 8 卡跑 70B 模型 TP=8 推理 | 够用，但吞吐低 15%~25% | 看并发量，高并发时 H100 更划算 |
| 单机 LoRA 微调 7B~13B | 够用 | 不值得 |
| 单机全参微调 70B（TP=8 + ZeRO） | 勉强，通信成瓶颈 | 值得 |
| 多机预训练（跨机为主） | 够用，瓶颈在集群网络 | 差价意义不大，看 IB 规格 |
| 科学计算 / FP64 负载 | 不可用 | 必须 H100 |
换句话说：只有当「效率提升带来的卡时节省」超过 6,000 元/月时，H100 的溢价才成立。如果你的训练任务因为通信瓶颈从 10 天变成 13 天，而卡时成本是每天 1,200 元，那多出的 3 天就是 3,600 元——还不到差价，不如直接租 H800 多跑几天。
按任务选，不按型号选
把决策简化成三步：
- 第一步，看单卡显存够不够。模型参数 + KV Cache 放不进 80GB，就要多卡；能放进一张卡，直接选 H800。
- 第二步，看要不要 TP。需要 TP≥4，倾向 H100；TP=1 或 2，H800 足够。
- 第三步，看有没有 FP64 需求。有就只能是 H100（或 A100 的 FP64 版本）。
三步都指向 H800 的话，就别为「H100 更新」这个理由多付钱。反过来，如果任务确实吃 TP 通信，H100 省下的时间通常比 6,000 元值钱。
两种常见组合：混搭比单押更划算
如果你的负载不是纯训练或纯推理，混搭往往比全押 H100 更划算：
| 组合 | 配置 | 月租参考 | 适合 |
|---|---|---|---|
| 全 H800 | 8 卡 H800 × 1 台 | 32,000 元 | 单机推理、LoRA 微调、数据并行训练 |
| 全 H100 | 8 卡 H100 × 1 台 | 38,000 元 | TP=8 大模型训练、长上下文 |
| 混搭 | 8 卡 H800（推理）+ 8 卡 H100（训练） | 70,000 元 | 线上服务与训练并行推进 |
混搭的逻辑和 A100/H100 那一篇一样：把贵卡的算力留给真正需要它的任务。推理服务用 H800 跑，白天承接线上流量；训练任务在 H100 上跑，占满也不影响服务。两边的资源互不抢占，排期不需要互相让路。
代价是运维复杂度上升——两套环境、两套驱动、两套监控。团队里没有人能维护时，全押一种卡反而更省心。
合规与供货的现实
两个型号在供货与合规上有实际差别，采购前应与服务商确认：
供货稳定性。H800 是针对特定市场供应的型号，存量与流通情况会随政策变化；H100 的供应渠道相对更广，但价格波动也更大。租用相比自购的最大好处就在这里——供货波动由服务商承担，你只需要按需租。
合规确认。设备进口、销售与使用需符合当时的出口管制与国内相关规定。作为租用方，你租用的是服务商持有的设备，但仍建议在合同中明确设备来源与合规责任归属。
H100 与 H800 的八个实际问题
H100 和 H800 的显存一样大吗？
一样。两者都是 80GB HBM3，显存带宽都是 3.35 TB/s，FP8 也都支持。所以「能跑多大的模型」这个问题上，两张卡的答案完全相同。
只做推理，选 H100 还是 H800？
选 H800。单卡推理不走 NVLink，两者的单卡算力与带宽一致，实测吞吐差距通常在误差范围内。省下的 6,000 元/月可以多租约 18% 的卡时，或者直接多租一张卡。
H800 的 FP64 被砍到什么程度？
H800 的 FP64 约 1 TFLOPS，H100 约 34 TFLOPS，差三十倍以上。深度学习用不到 FP64，但仿真、气象、流体、金融定价这类科学计算会用，这类负载不能用 H800。
NVLink 400 和 900 差多少，实际影响多大？
理论上 2.2 倍带宽。实际影响取决于并行策略：TP=1 或数据并行几乎无差别；TP=8 跑 70B 这类模型时，H800 的吞吐通常比 H100 低 15%~30%，因为 GPU 在等通信。
多机训练时，NVLink 还重要吗？
重要性下降。跨机通信走 IB 或 RoCE，不走 NVLink。多机训练的效率主要取决于集群网络规格（200G/400G IB）与拓扑，而不是单机内 NVLink 带宽。
H100 比 H800 贵 6,000 元/月，值得吗？
只在一种情况下值得：你的任务确实受 TP 通信瓶颈限制，且效率提升折算成卡时成本超过 6,000 元。多数推理和微调场景不值得，多租一张 H800 往往更划算。
H800 是不是「阉割版」，性能很差？
不是。它的单卡算力、显存、带宽与 H100 一致，被削减的是互联带宽与 FP64。对绝大多数深度学习负载，H800 的性能损失远小于价格差异。
租用需要自己装驱动和框架吗？
需要。租用提供的是整机与基础系统，CUDA 驱动、框架版本、分布式训练环境由你自行配置。如果希望预装环境，可以在下单时提出，按需提供镜像。
把模型规模和并行策略告诉我，我判断该用哪张卡
说明参数量、精度、单机还是多机、训练还是推理，我们给出卡型建议与月度成本对比。
告诉我们你的需求，工程师直接对接
提交后由对应产品线的工程师联系，提供资源清单与报价区间。电话与信息仅用于本次咨询对接，不做他用。
- 2 小时内响应（工作日）
- 提供多方对比的选型建议
- 可开具资质文件与正规发票