算力服务器租用 · 大模型训练
NVIDIA H100 80G 8 卡整机租用
AI 训练旗舰,HBM3 高带宽:NVIDIA H100 80GB SXM5 × 8,1TB DDR5 内存,100G IB 内网 / 10G 公网。参考价 ¥38000/月,整机独享、开箱即用,支持按月 / 按季 / 按年,支持整机按小时。
¥38000参考价/月
8 卡算力规格
80GB HBM3显存
1TB DDR5内存
H100 8 卡整机租用多少钱?适合什么场景?
NVIDIA H100 80G 8 卡整机参考价 ¥38000/月起:8 张 80GB HBM3 显卡、双路 112 核 CPU、1TB DDR5 内存与 100G IB 内网,适合大模型预训练、全参微调与多机多卡分布式训练。整机独享、开箱即用,支持按月/季/年与整机按小时计费。
- 参考价 ¥38000/月起(整机 8 卡)
- 8 × 80GB HBM3,显存带宽约 3.35TB/s
- 100G IB 内网,支持多机扩展
- 112 核 CPU + 1TB DDR5
- 整机独享,含环境预装与基础运维
规格与能力
H100 整机规格
| GPU 型号 | NVIDIA H100 80GB SXM5 |
|---|---|
| GPU 数量 | 8 卡 |
| 单卡显存 | 80GB HBM3 |
| CPU | 双路 Xeon Platinum 8480+(112 核) |
| 内存 | 1TB DDR5 ECC |
| 本地盘 | 7.68TB NVMe × 4 |
| 内网 | 100G InfiniBand |
| 公网 | 10G 独享(可升级) |
| 整机功率 | 约 8~10kW |
| 交付形态 | 整机独享 |
核心能力:
- HBM3 显存,单卡显存带宽约 3.35TB/s
- NVLink / NVSwitch 卡间高速互联
- 适配 Megatron-LM、DeepSpeed、vLLM 等框架
- 100G InfiniBand 内网,支持多机线性扩展
- 整机独享,含驱动、CUDA 与基础环境预装
计费与交付
怎么租、多久交付
| 计费方式 | 按月 / 按季 / 按年,支持整机按小时 |
|---|---|
| 交付时效 | 在库机型 4~24 小时完成装机与环境初始化;紧俏卡型按库存排期 |
| 网络接入 | 100G IB 内网 / 10G 公网,可按需升级带宽与独立 VLAN |
| 运维服务 | 7×24 基础运维、GPU 识别与健康自检、硬件故障响应 |
| 扩容方式 | 同机型加机器、升级卡型或转为 GPU 托管,无需迁移数据 |
常见问题
H100 算力租用常见问题
关于显存、组网、计费与交付的高频问题(共 5 条)
H100 8 卡整机的参考价包含哪些?
参考价包含整机硬件、机房电力与制冷、100G IB 内网接入、基础公网带宽以及 7×24 基础运维;不含超出基础额度的带宽、专属防火墙与定制化代维服务。
H100 适合微调还是预训练?
两者都适合。8 卡 H100 配合 1TB 内存与 IB 内网,可做 7B~70B 量级模型的全参微调与中小规模预训练;更大参数量建议多机扩展,按 2 机 16 卡或 4 机 32 卡组网。
交付时 GPU 能全部识别吗?
会完成 GPU 识别、显存 ECC 与带宽自检,并出具验收单;如发现掉卡或带宽异常,直接换机或换卡后再交付。
可以只租几天吗?
可以。支持整机按小时/按天短租,适合论文复现、临时训练与压测;短租与长租共用资源池,后续转长租无需迁移。
H100 和 H800 怎么选?
H100 面向对互联带宽与训练效率要求最高的场景;H800 是合规版本,NVLink 带宽有所收敛,但在多数微调与推理任务上表现接近,价格更低。受限场景优先 H800。
在线询价
告诉我们你的需求,工程师直接对接
提交后由对应产品线的工程师联系,提供资源清单与报价区间。电话与信息仅用于本次咨询对接,不做他用。
- 2 小时内响应(工作日)
- 提供多方对比的选型建议
- 可开具资质文件与正规发票
热线 0371-65111123