云服务器带GPU
-
云服务器带GPU,训练和推理的显卡与内存配置差在哪
做AI训练、图形渲染或科学计算时,本地显卡常常不够用。买整机一次投入大,自建机房周期长,设备用不了多久就可能闲置。云服务器带GPU可以随用随开,任务结束就释放,比较适合任务量忽高忽低的项目。不过如果选配置时只看价格或只看显卡型号,很容易多花钱,性能还跟不上。下面先说怎么判断自己是否需要GPU,再讲训练和推理在显卡与内存上的差别。 什么场景真的需要GPU GP…
做AI训练、图形渲染或科学计算时,本地显卡常常不够用。买整机一次投入大,自建机房周期长,设备用不了多久就可能闲置。云服务器带GPU可以随用随开,任务结束就释放,比较适合任务量忽高忽低的项目。不过如果选配置时只看价格或只看显卡型号,很容易多花钱,性能还跟不上。下面先说怎么判断自己是否需要GPU,再讲训练和推理在显卡与内存上的差别。 什么场景真的需要GPU GP…