MIG

大模型训练、图像渲染和实时推理这几年都在大量消耗GPU。高端卡买回来，实际利用率却常常只有一部分。单卡独占时，卡闲着，钱照样在花。GPU虚拟化云服务器就是为这个问题来的：一块物理卡切成若干份，多个用户或任务各用一份，互不干扰。 什么是GPU虚拟化 简单说，GPU虚拟化是把一块物理GPU的计算单元、显存和带宽划分成几个相互隔离的逻辑单元，分给虚拟机或容器使用。…