# 大模型推理租什么 GPU：显存 48GB 以上最便宜的显卡

来源：https://gpuprice.cn/use/llm-large（GPU价网，引用请注明出处）
- [‹ 全部用途](https://gpuprice.cn/use)

# 大模型推理

部署参数量较大的开源大模型，或者要支持多人同时使用。48GB 起步。显存不够时可以多卡拼，但要确认平台支持多卡。

**国内平台**

| 显卡 | 显存 | 每小时 | 连续 30 天 | 平台 |
| --- | --- | --- | --- | --- |
| [A40](https://gpuprice.cn/gpu/a40) | 48GB | ¥2.20 | ¥1,584 | 智星云 |
| [RTX 4090](https://gpuprice.cn/gpu/rtx-4090-48g) | 48GB | ¥2.28 | ¥1,642 | 算家云 |
| [L40](https://gpuprice.cn/gpu/l40) | 48GB | ¥2.28 | ¥1,642 | 算力自由 |
| [L40S](https://gpuprice.cn/gpu/l40s) | 48GB | ¥2.78 | ¥2,002 | 算力自由 |
| [L20](https://gpuprice.cn/gpu/l20) | 48GB | ¥4.00 | ¥2,880 | 共绩算力 |
| [RTX A6000](https://gpuprice.cn/gpu/rtx-a6000) | 48GB | ¥4.00 | ¥2,880 | OpenBayes 贝式计算 |
| [A800](https://gpuprice.cn/gpu/a800-80g) | 80GB | ¥5.59 | ¥4,025 | AutoDL |
| [A100](https://gpuprice.cn/gpu/a100-80g) | 80GB | ¥5.99 | ¥4,313 | 算力自由 |
| [RTX PRO 6000](https://gpuprice.cn/gpu/pro-6000) | 96GB | ¥6.19 | ¥4,457 | Featurize |
| [H20](https://gpuprice.cn/gpu/h20-96g) | 96GB | ¥7.50 | ¥5,400 | 优云智算 |
| [H800](https://gpuprice.cn/gpu/h800) | 80GB | ¥9.98 | ¥7,186 | AutoDL |
| [RTX PRO 6000D](https://gpuprice.cn/gpu/pro-6000d) | 84GB | ¥11.00 | ¥7,920 | 共绩算力 |

**海外平台（约合人民币）**

| 显卡 | 显存 | 每小时 | 连续 30 天 | 平台 |
| --- | --- | --- | --- | --- |
| [L40](https://gpuprice.cn/gpu/l40) | 48GB | ≈¥2.20 | ≈¥1,584 | Lium |
| [RTX A6000](https://gpuprice.cn/gpu/rtx-a6000) | 48GB | ≈¥2.20 | ≈¥1,584 | RunPod |
| [A40](https://gpuprice.cn/gpu/a40) | 48GB | ≈¥2.34 | ≈¥1,685 | RunPod |
| [L40S](https://gpuprice.cn/gpu/l40s) | 48GB | ≈¥2.54 | ≈¥1,829 | Lium |
| [RTX 4090](https://gpuprice.cn/gpu/rtx-4090-48g) | 48GB | ≈¥3.07 | ≈¥2,210 | GPUHub |
| [RTX 6000 Ada](https://gpuprice.cn/gpu/rtx-6000-ada) | 48GB | ≈¥3.78 | ≈¥2,722 | Vast.ai |
| [RTX PRO 5000](https://gpuprice.cn/gpu/pro-5000) | 48GB | ≈¥4.16 | ≈¥2,995 | Vast.ai |
| [RTX PRO 6000](https://gpuprice.cn/gpu/pro-6000) | 96GB | ≈¥4.40 | ≈¥3,168 | Packet.ai |
| [RTX 5880 Ada](https://gpuprice.cn/gpu/rtx-5880-ada) | 48GB | ≈¥5.35 | ≈¥3,852 | Vast.ai |
| [A100](https://gpuprice.cn/gpu/a100-80g) | 80GB | ≈¥5.94 | ≈¥4,277 | Packet.ai |
| [RTX PRO 5000](https://gpuprice.cn/gpu/pro-5000-72g) | 72GB | ≈¥6.24 | ≈¥4,493 | Vast.ai |
| [RTX PRO 6000D](https://gpuprice.cn/gpu/pro-6000d) | 84GB | ≈¥6.33 | ≈¥4,558 | Vast.ai |

显存要求是经验参考，具体看模型和分辨率。显存够用不代表速度够快，大任务要同时看算力。