算力择优AI Infrastructure Selector开始选型

智能配置器

选择模型与工作负载

模型

DeepSeek-R1

并发 / 上下文

32 · 32K

候选方案

3 种
1

NVIDIA H200 SXM

国际 · Hopper

建议卡数

10 张

估算权重

1342 GB

估算 KV

6.7 GB

显存合计

1410 GB
硬约束通过
2

NVIDIA H100 SXM

国际 · Hopper

建议卡数

17 张

估算权重

1342 GB

估算 KV

6.7 GB

显存合计

1360 GB
硬约束通过
3

NVIDIA A800 80GB

国际 · Ampere

建议卡数

17 张

估算权重

1342 GB

估算 KV

6.7 GB

显存合计

1360 GB
硬约束通过
估算公式仅用于方向性筛选:权重显存采用参数量 × 精度字节数,KV Cache 为简化估算;未包含框架内存、模型冗余、并行开销、存储与网络成本。正式采购请进行实测。
推荐整机参考:8×H100 SXM AI Server