多模型部署

为什么要在同一台服务器上跑多个模型？ 现在做AI项目的小伙伴们可能都遇到过这样的情况：公司采购了一台性能不错的GPU服务器，刚开始可能只跑一个推荐系统模型，后来业务发展了，又要上图像识别模型，接着又是自然语言处理模型。如果每个模型都单独配一台服务器，那个成本可就吓人了。就好比你家里买了一台大冰箱，总不能每样食材都单独买个小冰箱来放吧？ 实际上，现在的GPU服…