大模型

训练或部署大模型时，选型往往是团队遇到的第一道坎。机型很多，参数看不懂，价格差距也大。这篇文章按实际场景说明大模型GPU云服务器该怎么挑，以及显存和计费分别影响什么。 先算显存，再看算力 做大模型选型，显存通常比算力先成为限制。以70亿参数的模型为例，用FP16精度加载，光是模型权重就要约14GB显存。推理时还要留出KV Cache和中间激活的空间，实际占用…

过去十几年，国内云计算主要解决资源问题。开发者不用自己买机房和服务器，需要多少算力就取多少，价格也比自建便宜。这件事已经做成了。阿里云重新思考的，是云厂商到底该卖什么给客户。 答案正在变化。客户现在更常问的是：系统能不能扛住大促流量，大模型能不能接入自己积累的业务知识，敏感数据能不能留在境内。单价当然仍然重要，但已经不是唯一的判断标准。 大促流量怎么接得住 …

很多人提到阿里巴巴，先想到的是淘宝和天猫。但在集团财报里，阿里云（阿里巴巴云智能集团）是增速最受关注的一块。它来自阿里巴巴2009年成立的云计算业务，现在是国内规模最大的公有云服务商，在亚太地区也属于头部云厂商。 要看懂阿里云业绩，先分清两个口径。第一个是集团报表里的云智能集团收入，包括公有云、政企云服务，以及通过云业务对外销售的AI服务。第二个是市场占有率…

阿里智能云的底层技术可以追溯到飞天操作系统。它把大规模服务器资源抽象成统一的计算池，支持弹性伸缩、故障自愈和多租户隔离。对企业来说，资源可以按需取用，业务高峰时自动扩容，平时不用为闲置机器付钱。 常用产品有哪些 产品线比较多，中小企业通常只先用其中几样。常见的包括： 计算服务：云服务器ECS、容器服务ACK。传统应用直接上云可以先用ECS，已经用容器部署的团…