# 小模型部署租什么 GPU：显存 16GB 以上最便宜的显卡

来源：https://gpuprice.cn/use/llm-small（GPU价网，引用请注明出处）
- [‹ 全部用途](https://gpuprice.cn/use)

# 小模型部署

部署参数量较小的开源大模型做推理。量化后的小模型 16GB 到 24GB 通常够用。要一直在线的话，可以比较包月价。

**国内平台**

| 显卡 | 显存 | 每小时 | 连续 30 天 | 平台 |
| --- | --- | --- | --- | --- |
| [RTX 5060 Ti](https://gpuprice.cn/gpu/rtx-5060-ti) | 16GB | ¥0.88 | ¥634 | FunHPC 趣算力 |
| [RTX A4000](https://gpuprice.cn/gpu/rtx-a4000) | 16GB | ¥0.92 | ¥662 | AutoDL |
| [RTX 4090D](https://gpuprice.cn/gpu/rtx-4090d) | 24GB | ¥1.14 | ¥821 | 算家云 |
| [RTX 3090](https://gpuprice.cn/gpu/rtx-3090) | 24GB | ¥1.18 | ¥850 | 星海智算 |
| [RTX 4090](https://gpuprice.cn/gpu/rtx-4090) | 24GB | ¥1.24 | ¥893 | 算家云 |
| [V100](https://gpuprice.cn/gpu/v100-32g) | 32GB | ¥1.41 | ¥1,015 | 优云智算 |
| [A40](https://gpuprice.cn/gpu/a40) | 48GB | ¥2.20 | ¥1,584 | 智星云 |
| [RTX 4090](https://gpuprice.cn/gpu/rtx-4090-48g) | 48GB | ¥2.28 | ¥1,642 | 算家云 |
| [L40](https://gpuprice.cn/gpu/l40) | 48GB | ¥2.28 | ¥1,642 | 算力自由 |
| [A800](https://gpuprice.cn/gpu/a800-40g) | 40GB | ¥2.31 | ¥1,663 | 智星云 |
| [RTX 5090](https://gpuprice.cn/gpu/rtx-5090) | 32GB | ¥2.68 | ¥1,930 | 算家云 |
| [A100](https://gpuprice.cn/gpu/a100-40g) | 40GB | ¥2.75 | ¥1,980 | 智星云 |

**海外平台（约合人民币）**

| 显卡 | 显存 | 每小时 | 连续 30 天 | 平台 |
| --- | --- | --- | --- | --- |
| [RTX 4060 Ti](https://gpuprice.cn/gpu/rtx-4060-ti) | 16GB | ≈¥0.20 | ≈¥144 | QuickPod |
| [RTX 5070 Ti](https://gpuprice.cn/gpu/rtx-5070-ti) | 16GB | ≈¥0.27 | ≈¥194 | QuickPod |
| [RTX 4070 Ti Super](https://gpuprice.cn/gpu/rtx-4070-ti-super) | 16GB | ≈¥0.33 | ≈¥238 | QuickPod |
| [V100](https://gpuprice.cn/gpu/v100-32g) | 32GB | ≈¥0.59 | ≈¥425 | Vast.ai |
| [RTX A4000](https://gpuprice.cn/gpu/rtx-a4000) | 16GB | ≈¥0.60 | ≈¥432 | SimplePod |
| [RTX 4090](https://gpuprice.cn/gpu/rtx-4090) | 24GB | ≈¥0.67 | ≈¥482 | QuickPod |
| [RTX 4080 Super](https://gpuprice.cn/gpu/rtx-4080-super) | 16GB | ≈¥0.67 | ≈¥482 | QuickPod |
| [RTX 5060 Ti](https://gpuprice.cn/gpu/rtx-5060-ti) | 16GB | ≈¥0.80 | ≈¥576 | QuickPod |
| [RTX 4080](https://gpuprice.cn/gpu/rtx-4080) | 16GB | ≈¥0.87 | ≈¥626 | QuickPod |
| [RTX 3090](https://gpuprice.cn/gpu/rtx-3090) | 24GB | ≈¥0.93 | ≈¥670 | Theta EdgeCloud |
| [RTX 5080](https://gpuprice.cn/gpu/rtx-5080) | 16GB | ≈¥1.00 | ≈¥720 | QuickPod |
| [RTX A5000](https://gpuprice.cn/gpu/rtx-a5000) | 24GB | ≈¥1.07 | ≈¥770 | RunPod |

显存要求是经验参考，具体看模型和分辨率。显存够用不代表速度够快，大任务要同时看算力。