随着云计算、大数据和人工智能技术的快速发展,各行各业加速数据化转型,数据容量以前所未有的速度增长,传统本地存储已难以适应数据的指数式增长。在此背景下,腾讯云正式发布了面向混合云存储场景的存储一体机产品TStor,旨在帮助客户以灵活、经济、高效的方式管理呈指数级增长的业务数据,实现数字化转型。TStor作为腾讯云存储三大核心引擎之一,专门为政府、金融、高校等需要私有化部署的行业提供核心引擎支持。
TStor的核心特性与混合云能力
TStor存储一体机基于分布式架构设计,最小规模三节点起步,支持横向扩展,能够满足AI大模型场景对海量数据存取的需求。该产品提供了三种关键的云特性:云复制实现TStor和公有云存储间的完整数据备份,保障异地灾备和互联网访问;云缓存通过在TStor缓存热数据,公有云存储保存完整数据的方式加速本地应用;云分层则在TStor和公有云存储之间实现数据分层,提供更灵活的数据管理能力。
在硬件配置方面,TStor对象存储的存储节点使用通用的X86服务器,结合腾讯云自研的星星海服务器,搭载高性能NVME闪存盘,可提供数百GB/s的带宽,大幅缩短数据读写时间,提升整体训练效率。
大模型场景下的高性能存储实践
在AI大模型应用场景中,存储系统面临着三大关键需求:大容量、高性能和多协议接口。大模型需要处理和存储海量的训练数据和中间结果,数据量通常在PB级甚至EB级,这对存储系统的扩展性提出了极高要求。AI大模型的训练和推理过程对存储系统的读写性能要求非常高,特别是在数据集读取和checkpoint的读写环节,需要高带宽的数据传输和低延迟的响应。
腾讯云TStor存储一体机基于分布式架构,最小规模三节点起步,支持横向扩展,满足了AI大模型场景海量数据存取需求。
TStor在这一场景中的优势体现在:通过分布式架构实现高可扩展性,结合高性能NVME闪存盘提供数百GB/s的带宽,支持多种存储协议接口以适应不同的数据类型和格式需求。
分布式存储的数据安全保障机制
在分布式云存储环境中,数据安全和隐私保护是至关重要的考量因素。现代分布式存储方案结合分布式编码方式和门限加密技术,不仅能够很好地保持系统的分布式特征,而且能够防止攻击者在公开信道上窃取解密后的密文,有效实现云存储数据的隐私保护。基于属性加密的私有云分布式存储协议采用多属性服务器模式对属性进行分管及对应属性私钥的分布式分发,模型中存在一个中心授权服务器,便于对数据进行监控和管理。
- 分布式纠删码技术:在存储阶段使用分布式纠删码,充分保障系统的鲁棒性,使之更加符合实际的分布式云存储环境。
- 身份隐私保护:通过身份信息预处理生成伪身份,引入密钥协商协议,保护加解密双方身份信息和访问结构。
- 数据完整性审计:设计实现数据完整性审计的分布式云存储协议,用以检测用户数据的完整性,抵抗恶意攻击者的攻击或检测云服务提供商因商业利益而篡改用户长期不访问的数据的行为。
云原生分布式存储的商业价值
腾讯云存储团队经过十多年打磨与演练,基于腾讯集团的存储引擎,在底层层面构建了完善的存储可靠性、一致性、可用性、可扩展性等能力。基于腾讯存储底座可向上拓展更多产品能力与解决方案,包括数据湖、混合存储、视图计算、企业网盘、备份服务等产品级解决方案。这些解决方案以PaaS或者SaaS的形态与客户行业紧密结合,使客户能够开箱即用地使用存储服务。
在商业应用层面,腾讯云存储与若干行业共同深入至用户场景中,整合包括大数据、AI、混合云等场景,涉及运营商、金融、政府、高校互联网等行业,为各行各业客户贴合其特有的使用场景提供针对性解决方案。
未来发展趋势与挑战
随着数据去中心化趋势的加剧以及分布式网络结构的日益复杂化,如何确保系统的数据安全和隐私保护已成为当前亟待解决的关键挑战。新型分布式网络与系统为构建未来数字基础设施及开发新型应用提供了更为丰富的可能性,但同时也带来了新的安全和隐私保护需求。
未来分布式存储系统的发展将更加注重:基于区块链技术与Web3范式实现系统的去中心化可信;基于分布式云架构与无服务器模式实现系统的灵活配置与可扩展性;基于云-边-端协同智能实现系统的数据实时智能处理。分布式数据库在云端原生环境中的不断进化,展现了其强大的适应能力,为构建未来数字基础设施提供了坚实的技术支撑。
内容均以整理官方公开资料,价格可能随活动调整,请以购买页面显示为准,如涉侵权,请联系客服处理。
本文由星速云发布。发布者:星速云。禁止采集与转载行为,违者必究。出处:https://www.67wa.com/25615.html