GPU能耗

GPU服务器的电老虎真面目 最近朋友圈里有个数据中心运维朋友晒出电费单，单月电费直接突破了七位数。这个数字背后，正是今天我们要聊的GPU服务器耗电问题。现在的AI训练服务器，随随便便就是八个A100显卡起步，整机功耗能达到6.5千瓦，相当于同时开启130台空调柜机。更可怕的是，这些设备需要24小时不间断运行，不像我们平时用的电脑还能开个节能模式。 具体来说，…