横向对比
模型与 GPU 对比工作台
主流大模型
| 模型 | 参数 | 架构 | 上下文 |
|---|---|---|---|
| DeepSeek-R1 | 671B | MoE | 128K |
| Qwen3-235B-A22B | 235B | MoE | 128K |
| Llama 3.3 70B | 70B | Dense | 128K |
| GPT-OSS 120B | 117B | MoE | 128K |
代表性 GPU
| GPU | 显存 | 带宽 | FP16 |
|---|---|---|---|
| NVIDIA H100 SXM | 80 GB | 3350 GB/s | 1979 TF |
| NVIDIA H200 SXM | 141 GB | 4800 GB/s | 1979 TF |
| NVIDIA A800 80GB | 80 GB | 2039 GB/s | 624 TF |
| Huawei Ascend 910B | 64 GB | 1600 GB/s | 400 TF |
| MetaX C500 | 64 GB | 1200 GB/s | 300 TF |