很多人选GPU云服务器时先看每小时单价,但账单最终取决于三件事:怎么计费、用多长时间、显卡有没有真正跑起来。本文以20G显存这一档为例,拆解价格构成,并用两个场景算一笔账。文中数字只用于演算,不代表任何平台的实时报价,下单前请以厂商页面为准。

20G显存适合跑哪些任务
在现在的GPU产品里,20G显存算中档。跑中小模型推理、做LoRA这类参数高效微调、做渲染和视频处理,通常够用。如果要全参数训练大模型,显存很快会不够,那时要么换更大显存的卡,要么上多卡,成本结构会整个变掉。
- 模型推理:7B左右的开源大模型做量化后,在这一档能比较从容地运行,图像识别、语音识别服务也很常见。
- 轻量微调:对中等规模模型做领域适配,训练时长主要看数据量和训练轮数。
- 渲染与视频:三维渲染、视频转码、AI画质增强。
- 科研与教学:复现论文、跑小规模对照实验。
价格由哪几块组成
同样是20G显存,报价可能差出一大截。主要看四项:
- 显卡型号:架构和代际不同,性能差距很大。新卡单价高,但要按单位算力折算,不一定更贵。
- CPU、内存和系统盘:这些费用会叠加在显卡上。数据预处理很重的任务,内存和磁盘往往先成为瓶颈,配置时别只盯着卡。
- 地域与带宽:机房所在地不同,价格不同。公网出口带宽要单独算,频繁拉取大模型权重或数据集时尤其明显。
- 计费模式:按量、包日、包月、竞价实例的计算逻辑完全不同,也是最容易被忽略的一项。
三种计费方式怎么选
按量计费最灵活,适合短期实验和调试。单小时价格最高,但关机后就不再计费。包月或包年单价更低,适合常驻运行的推理服务,前提是服务确实会一直开着。竞价实例最便宜,但可能被随时回收,只适合能断点续跑的训练任务。
行情会随供需变化,粗估时可以这样看:按量通常是每小时几元,包月大致在千元到数千元之间。拿到具体报价后,最好对比两到三家平台的同配置方案。
案例一:常驻推理服务,包月为什么更划算
某小团队要为内部问答系统部署一个7B开源模型。请求量不大,但服务需要全天在线。假设按量单价是每小时3元(仅为演算用的假设数字),一天运行24小时,一个月约720小时,光显卡费用就是2160元。只要包月报价低于这个数,包月就更划算。
这里有个容易忽略的点。该团队的请求集中在工作日白天,但服务必须常驻,频繁启停又会带来模型加载的等待。这些因素加在一起,让包月比按量更合适。团队还在低峰期用脚本合并了一部分请求,显卡利用率提高,单位成本也随之下降。
反过来看,如果服务每天只有两小时有请求,那么按量加上定时开关,可能比包月还省。开通包月前,先看一眼真实的利用率。
案例二:研究组做LoRA实验,怎样混用计费
另一个例子来自一个高校研究组。他们要反复调超参数,每轮微调大约十几个小时,全月实际使用时长并不固定。
- 先用按量计费把流程跑通,确认代码和数据没问题。这一步的时间不长,花点钱换稳定是值得的。
- 正式实验改用竞价实例,同时把训练脚本改成定时保存检查点。实例被回收后,可以从最近的检查点续跑。
- 每轮实验结束就及时释放实例,避免空转计费。
这样组合下来,总花费比全程按量低了不少。被回收造成的损失,也被限制在一个检查点区间之内。前提是训练流程能接受中断。如果脚本不支持断点续跑,竞价实例反而会让人反复重来,省下的钱很快就花回去了。
选购时可以这样判断
先确定任务类型。推理、微调、渲染对显存和算力的要求各不相同,选错了要么多花钱,要么跑不动。
- 估算实际使用时长:每天跑几个小时、每月跑几周,比单价更能决定总花费。
- 区分常驻和间歇:常驻服务优先考虑包月,间歇任务优先考虑按量或竞价。
- 正式部署前先用小数据跑一遍,记下显存峰值。这样可以避免高峰期因为显存溢出而反复重启。
- 把隐性费用算进去:数据盘、快照、公网流量和出口带宽,加起来有时比预想的高。
如果任务需要全参数训练大模型,20G显存大概率不够,直接把多卡或更大显存的方案拿来对比,会比在这一档里反复凑更省心。