最近问得最多的,大概是做模型训练、AI绘图和推理服务的团队:国内GPU云服务器到底哪家便宜?各家官网的单卡小时价摆在一起,数字看着差不多,等账单出来才发现差距不小。这篇文章把账单拆开来看,用三个情境帮你算自己的那笔账。

先说结论
国内平台的单卡小时价大致相差两到三倍。但最终花多少钱,通常取决于计费方式、显卡利用率,以及网络和存储这些容易漏掉的附加费用。短期实验、可以中断的训练,用竞价或按量实例更划算;长期稳定在线的服务,包月或预留折扣更合适。文中的价格只作示例,平台调价频繁,下单前以官网实时报价为准。
比价前先对齐规格
很多人直接拿两个单价相减,结果对不上。规格不同,数字就没有可比性。下单前至少核对这几项:
- 显卡型号和显存:同样是A100,40G和80G的价格可能差一倍。还要确认是PCIe版还是SXM版,两者性能和价格都不一样。
- 计费粒度:按秒结算还是按小时取整。如果你的任务常常只跑半小时,按小时取整的平台会多收不少。
- 网络与存储:系统盘、数据盘、公网带宽是否另计。训练数据要频繁拉取,流量和云盘读写都会进账单。
- 预装环境:CUDA、驱动和常用框架能否开箱即用。环境要自己折腾的话,省下的单价很可能被花在调试上的时间吃掉。
- 释放与退款规则:包月实例能不能退,按量实例关机后磁盘还收不收费。这两条直接决定你实际花了多少。
平台类型与计费方式
国内GPU云服务大致分三类:大型公有云厂商、垂直做AI算力的平台,以及社区化的算力租赁服务。大厂网络稳定、售后完整,还能和对象存储、数据库放在同一个控制台里,单价一般偏高。垂直平台的显卡报价往往更有竞争力,选的时候顺带问清楚机房位置和过往稳定性。社区类价格最低,适合个人做实验,但用在对可用性要求高的线上服务上,风险要自己承担。
按计费方式比较
- 按量付费:不承诺时长,用多少算多少。单小时价最高,适合用量不确定的任务和临时扩容。
- 包月或包年:长期运行时折扣明显,通常能比按量便宜三成到五成。前提是机器基本满载,闲置时间一多,折扣很快就被浪费掉。
- 竞价实例:价格可低至按量的三到五折,但随时可能被回收。用之前,训练程序必须能从检查点恢复。
三个情境算一笔账
以下案例用来说明判断思路,具体数字以你自己的实测为准。
个人开发者微调7B模型
小王想用自己的数据微调一个7B左右的开源大模型,预计训练约30小时,之后还会零散做几次推理测试。他最初打算直接租大厂的高配机器按量跑,单小时费用加上数据盘和公网流量,总成本超出了预期。后来他换到垂直平台的单卡实例,把训练脚本改成每个检查点自动保存,再用竞价实例跑训练。总花费约为原方案的四成。中途有一次实例被回收,因为有检查点,只损失了不到半小时的进度。
这个组合的前提是训练代码能定期存检查点。没有这一步,竞价实例被回收一次,损失的可能就是整轮训练。
小团队部署在线推理服务
一个五六人的内容团队想上线自研的图片生成接口,要求全天可用,日均请求量比较稳定。他们最初用按量实例,服务是7×24小时运行的,月底对账时显卡费用几乎是包月价的两倍。后来常驻实例改成包月,同时保留一台按量实例应对流量高峰,并用简单的队列控制峰值请求。月度GPU支出下降约三成,服务可用性没有受到影响。
常驻服务要先看利用率。机器大半时间闲置,按量付费可能更合适;几乎全天满载,包月才划算。下单前把一周的请求曲线拉出来看一眼,比凭感觉判断靠谱。
学生做课程项目的短期实验
小李是研究生,两周内要完成几组对比实验,每组大约跑两三个小时。他选了社区类算力平台,单价低。但他先在本地用小数据集把脚本跑通,避免在付费环境里反复调试。平台按分钟结算,每次实验结束就立即释放实例。整个项目的算力费用控制在几百元以内。
短期实验省钱,关键在减少无效占用。环境先调好,实例用完就关,比一味追求最低单价更直接。调试时间如果都花在付费机器上,再低的单价也会被时间吃掉。
选购建议
- 先估算任务时长和每天的实际占用,判断自己是短期突击还是长期运行。
- 选同一款显卡、相同的系统盘和数据盘配置再做横向对比,别拿不同规格的单价直接比。
- 训练任务先确认能否断点续训,能的话再考虑竞价实例。
- 生产环境把机房稳定性和售后响应放进比较项,价格只是其中一部分。
- 先用小规模任务试跑,记下速度、费用和报错情况,确认没问题再放大规模。
最后说两句
国内GPU云服务器的价差确实存在,但控制成本,更多取决于平台和计费方式的搭配。动手前可以先把任务拆成时长、频率和稳定性三项,再去对照实时报价。这样算出来的账,比只盯着单价靠谱。