做深度学习、大模型微调或者视频渲染的人，迟早会卡在一个问题上：云服务器平台到底有哪些GPU可选。机型一长串，命名又像，选错了钱和时间都打水漂。这篇把国内外主流平台的GPU产品线理一遍，再结合几个实际场景，说说怎么挑。
国内主流云平台有哪些GPU
国内大厂基本都有GPU云服务器，大致可以分成训练型、推理型和图形渲染型三类。挑平台前先看看自己的任务落在哪一类。
- 阿里云：GN系列主要面向训练和推理，常见卡型有A100、A10、V100。大规模集群需求可以再看它的高性能算力产品。
- 腾讯云：GN系列覆盖A100、T4、V100，适合中小规模训练和在线推理，按量和包年包月都能选。
- 华为云：除了英伟达GPU实例，还有基于昇腾NPU的AI算力服务。如果项目有国产化要求，可以把它放进候选名单。
- 百度智能云、火山引擎、天翼云、移动云等也陆续上了GPU实例，部分平台提供昆仑芯等国产加速卡。
还要留意一点：受出口管制影响，国内能买到的高端卡多是H800、A800这类合规版本。具体有哪些型号，以各平台售卖页面为准，别拿网上的旧文章当依据。
海外云平台的GPU选择
海外三大云在高端GPU上起步早，型号迭代也快。不过用之前要先看清地域、网络延迟和数据合规，这些往往比机型本身更影响实际体验。
- AWS：P系列覆盖A100与H100，G系列有A10G、L4等，更适合推理和图形类任务。
- Microsoft Azure：ND系列面向大模型训练，NC系列偏中等规模计算和可视化。
- Google Cloud：A2、A3分别对应A100和H100，G2搭载L4。另外它还提供自研TPU，如果你的框架支持，可以把TPU当作替代方案比较一下。
垂直算力平台：灵活，但要看清条款
除了综合云，还有一批专做算力租赁的平台，国内有AutoDL、矩池云、恒源云，海外有Lambda、RunPod、CoreWeave等。卡型比较丰富，常见的有RTX 4090、A100、H100，有的支持按小时甚至按分钟计费。对个人开发者和短期实验来说，这类平台的价格通常比综合云的按量实例更低。
但便宜的同时，要多看两件事：实例被回收的规则，以及数据能不能持久保存。下面的案例里会提到这一点。
三个场景的选型思路
机型参数不用死记。先想清楚任务是训练还是推理、是一次性还是长期跑，再看显存和预算，选型基本就有了方向。
案例一：小团队微调7B大模型
某AI初创团队想用私有语料微调一个70亿参数的开源模型。他们先用LoRA这类参数高效微调方法压低显存占用，在24GB显存的RTX 4090实例上做数据清洗和小规模实验。方案跑通之后，正式训练才切到A100。整个过程只在关键阶段用高端卡，成本控制得比较稳。
案例二：电商平台的商品图识别
某电商平台每天要给上百万张商品图做类目识别，核心诉求是吞吐量和单次成本。团队最初用训练卡，开销偏高。后来换成L4、T4这类推理型GPU，再配合模型量化和批量推理，单次请求成本明显下降。推理场景不一定要最高端的卡，负载特征对得上就够用。
案例三：高校实验室的渲染与仿真
某高校实验室要做三维渲染和科学仿真，任务是突发的，平时基本闲置，项目节点时才集中用。他们选了支持竞价（抢占式）实例的平台，数据放在对象存储里，实例释放后数据还在。成本压到了能接受的范围，但代价是必须做好断点续算。实例被回收时，没存检查点的任务会直接丢进度，这一点在下单前就要想清楚。
选购时先问这四个问题
- 显存够不够：显存决定能跑多大的模型，通常比算力先成为瓶颈。模型加载不进去，算力再强也没用。
- 训练还是推理：训练更依赖多卡互联和高带宽，推理更看重单次成本和延迟，两者对卡的要求不一样。
- 计费方式：短期实验用按量或竞价实例比较划算。长期稳定跑的负载，可以算一下包年包月或预留实例的总价。
- 生态与合规：镜像里有没有预装CUDA、驱动和常用框架，数据出境是否符合要求，下单前都要确认，省得后面返工。
云服务器的GPU选择没有标准答案。需要完整配套服务的企业，综合云更省心；灵活的个人和小团队，垂直算力平台用起来更轻；有全球化业务的项目，海外平台可能更合适。GPU价格和库存变化快，下单前请以各平台官网的实时信息为准。
