小模型部署
部署参数量较小的开源大模型做推理。量化后的小模型 16GB 到 24GB 通常够用。要一直在线的话，可以比较包月价。
显卡显存每小时连续 30 天平台
RTX 5060 Ti16GB¥0.88¥634FunHPC 趣算力RTX A400016GB¥0.92¥662AutoDLRTX 4090D24GB¥1.14¥821算家云RTX 309024GB¥1.18¥850星海智算RTX 409024GB¥1.24¥893算家云V10032GB¥1.41¥1,015优云智算A4048GB¥2.20¥1,584智星云RTX 409048GB¥2.28¥1,642算家云L4048GB¥2.28¥1,642算力自由A80040GB¥2.31¥1,663智星云RTX 509032GB¥2.68¥1,930算家云A10040GB¥2.75¥1,980智星云显卡显存每小时连续 30 天平台
RTX 4060 Ti16GB≈¥0.20≈¥144QuickPodRTX 5070 Ti16GB≈¥0.27≈¥194QuickPodRTX 4070 Ti Super16GB≈¥0.33≈¥238QuickPodV10032GB≈¥0.59≈¥425Vast.aiRTX A400016GB≈¥0.60≈¥432SimplePodRTX 409024GB≈¥0.67≈¥482QuickPodRTX 4080 Super16GB≈¥0.67≈¥482QuickPodRTX 5060 Ti16GB≈¥0.80≈¥576QuickPodRTX 408016GB≈¥0.87≈¥626QuickPodRTX 309024GB≈¥0.93≈¥670Theta EdgeCloudRTX 508016GB≈¥1.00≈¥720QuickPodRTX A500024GB≈¥1.07≈¥770RunPod显存要求是经验参考，具体看模型和分辨率。显存够用不代表速度够快，大任务要同时看算力。