关键要点
1. 企业部署需要平衡硬盘和固态硬盘的需求。
2. 存储需求分为四个层次:热数据、温数据、冷数据和极冷数据。
3. 固态硬盘可以用于所有层次,但不是必需品。
4. NVMe over Fabrics(NVMe-oF)是一种协议,可以连接设备并提高存储效率。
5. 选择正确的存储选项需要考虑成本、性能和可靠性等因素。
Viking Enterprise:企业存储的分层视角-Fig-1
- 1. 企业部署的层次结构:
- • 企业部署通常由多个层次组成,每个层次服务于特定的需求。
- • 通常包括四个层次:
- (0) 任务关键型:高性能工作负载,对延迟至关重要(100%正常运行时间)。
- (1) 热数据:日常用于业务操作,但对延迟要求不高(>99.999%正常运行时间)。
- (2) 温数据:必须访问但很少访问的数据(<99%正常运行时间)。
- (3) 冷数据:归档或很少使用的数据(<99%正常运行时间)。
- 2. 各层次的功能和存储类型:
- • 每个层次有其特定功能,该功能决定了所需的存储类型。
- • 较低的层次可靠性较低,成本也较低。
- 3. 闪存的使用情况:
- • 闪存可以在所有层次中使用,但并非所有层次都需要闪存。
- • 随着容量需求的增加,闪存在较低层次变得不再经济可行。
Viking Enterprise:企业存储的分层视角-Fig-2
企业存储结构
图片右侧展示了一个存储层次结构的金字塔图表:
- • Tier 0: Flash/CXL(热缓存)
- • Tier 1: Flash/HDD,包含电子邮件、数据库(在线存储)
- • Tier 2: HDD,包含备份、网络文件存储、成本敏感型存储(近线存储)
- • Tier 3: HDD/ Tape/ Optical,包含归档数据(冷存储)
-
- 1. 大部分存储数据位于底层
- • 大部分存储数据位于较低的层次(Tier 3)。
- • 由于对成本非常敏感,盘驱动器(HDDs)短期内不会消失。
- 2. 法规和政府要求推动更多内容存储在最低存储层
- 3. 按性能付费 -这不仅是一个人力资源概念。
- • Tier 0 是按每GB成本最贵的层次。
- • Tier 3 是按每GB成本最便宜的层次。
- • Tier 0 到 Tier 3 在每IOPs成本上相似。
- 4. 简化层次管理和优化成本
- • 通过 NVMeoF(NVMe of Fabric)实现全连接,以简化层次管理并优化成本。
如何理解数据中心网络拓扑中的 Fabirc 概念?
在数据中心网络中,Fabric(网络结构)是指用于连接不同计算资源(如服务器、存储设备和网络设备)的一系列硬件和软件组件。Fabric 提供了一种结构化的方式来传输数据,并确保各组件之间的高效通信。
- • 组件:Fabric 通常包括交换机、路由器、网络接口卡(NIC)以及连接这些设备的各种网络介质(如光纤和以太网线)。
- • 特点:
- • 高带宽和低延迟:Fabric 设计用于支持高带宽和低延迟的数据传输,满足现代应用对性能的需求。
- • 可扩展性:Fabric 允许在不干扰现有系统的情况下轻松增加新设备,从而扩展数据中心的资源。
- • 灵活性:通过支持多种协议(如 Ethernet、Fibre Channel、InfiniBand),Fabric 可以适应不同的应用需求。
- • 应用:在 NVMeoF(NVMe over Fabrics)中,Fabric 连接 NVMe 设备和服务器,提供了低延迟和高吞吐量的存储访问。这种拓扑结构不仅提高了存储性能,还支持动态资源分配和共享存储,增强了数据中心的整体效率。
Viking Enterprise:企业存储的分层视角-Fig-3
- 1. NVMeoF的定义和优势:
- • NVMeoF是一种架构协议,允许以太网接口将设备连接在一起。
- • NVMe是一种比其他协议(iSCSI/FC/NFS/CIFS等)更轻量的协议,能够更好地利用CPU周期和可用的系统带宽(BW)。
- • 具有更低的延迟和改善的存储管理和配置。
- • 更好地支持计算和存储的解耦。
- 2. 应用范围:
- • 最初目标是将SSD连接到PCIe总线,但可以扩展到连接其他设备,如将HDD连接到PCIe总线。
- 3. 成本和管理:
- • 尽管基础设施投入成本较高,但运营成本较低,企业管理简化。
- 4. 存储迁移要求:
- • 为了实现存储快捷迁移,这个领域必须有一个HDD解决方案(如何实现HDDs的NVMe接口改造?)。
Viking Enterprise:企业存储的分层视角-Fig-4
NVMEoF 互联优势
- • 企业内通用接口
- • 利用现有的以太网连接
- • 消除基础设施内的多种协议接口
- • 降低基础设施成本
- • 简化基础设施管理
- • 没有额外的学习成本,我们都知道如何管理基于以太网的设备
- • 提供企业管理的统一面板
- • 更高效地利用带宽和可用资源
Viking Enterprise:企业存储的分层视角-Fig-5
NVMEoF 互联挑战
并非所有设备类型都支持 NVMeoF 连接(HDD不支持)
并非所有存储设备层级都适用于 NVMe(冷存储无性能、延迟要求)
- • 用于在线、近线和离线/冷存储的 HDD 层级并非原生 NVMe
- • 可以使 HDD 层级支持 NVMe 前端,但这会增加大量的采购成本()
启用支持 NVMe 的 HDD 解决方案的方法
- • 添加一个运行在目标模式的带有 NVMe 适配器的计算节点
- • 为基于 HDD 的 IOPs 添加原生 NVMe 前端
- • 以太网连接的 HDDS
两种方法都会增加解决方案的采购成本,同时启用从企业中消除 SAS(或其他协议)
Viking Enterprise:企业存储的分层视角-Fig-6
Tier 0 分析
1. Tier 0 在 CXL 和共享内存方面的独特定位:
- 缩短多个 CPU 间共享数据的访问延迟
- 简化软件,提高性能
- CXL 需要进一步成熟,才能在这一领域发挥作用
2. 目前使用基于 NVMe 的 SSD(包括SCM)实现:
- 提供顶级性能(低延迟和高吞吐量)
- 当前解决方案的黄金标准
- 轻量级的 NVMe 协议使 CXL 成为该层级的唯一竞争者
- 双端口 SSD 允许来自两个主机的数据访问
- 交换结构可扩展到超过两个主机的访问
- 单端口 SSD 提供更低的采购成本
3. CXL 前景可期,但 NVMe SSD 仍是这一领域的首选。
Viking Enterprise:企业存储的分层视角-Fig-7
Flash Options – Tier 1
1. 这一层级历史上使用 2.5 英寸 HDD 实现:
- 2.5 英寸硬盘的吞吐量高于 3.5 英寸硬盘,并且延迟更低
- 由于闪存的成本和容量优势(闪存仍然价高于HDD,只是成本最近几年快速下降),这种方案现在不再重要
2. 闪存的出现(尤其是 SAS SSD)极大地颠覆了该领域
3. SAS 仍然是该层级最具性价比的选项:
- 相较于 NVMe,采购成本更低
- 市场上有多家 SAS SSD 厂商
- 性能适合该层级的需求
- 旧版软件和应用程序仍使用这种接口
- 一些旧版 FC 主机也在使用,但 SAS SSD 是最优存储介质
4. 该层级在使用 NVMeoF Everywhere 方法和后端 SAS SSD 时收益显著
Viking Enterprise:企业存储的分层视角-Fig-8
Flash Options – Tier 2
1. 通常实现为近线(Near Line)存储层
2. HDD 与闪存的分界点
3. 不建议在此层使用闪存
4. 此层不需要闪存的优势:
- 通常连接到性能较慢且高度共享的网络
- 数据不需要立即访问
- 可以接受较高的延迟
- 不运行关键任务应用
- 由于规模较大,对每 GB 成本更敏感
5. 平衡的拓扑结构不会在此层使用闪存
6. 此层在采用 NVMeoF Everywhere 方案结合后端 SAS HDD 时获益显著
Viking Enterprise:企业存储的分层视角-Fig-9
- Flash Options – Tier 3
- • 这一层通常被称为冷存储;
- • 大多数数据只写一次,可能永远不会被读取;
- • SATA硬盘和LTO在这个领域占主导地位;
- • 光学应用有限,但新的选择正在出现;
- • 不应在这里考虑闪存;
- • 这一层通过采用后端SATA硬盘的NVMeof Everywhere方法获益良多。
NVMeoF 优势与存在的挑战?
优势:
- • 低延迟:NVMeoF 通过利用 NVMe 协议的特性,在网络上传输存储数据时显著减少延迟,相较于传统协议(如 iSCSI 和 FC),可以更快地访问数据。
- • 高吞吐量:NVMeoF 支持多队列和高并发操作,可以充分发挥现代 SSD 的性能,从而实现更高的数据吞吐量。
- • 资源共享:通过 NVMeoF,多个服务器可以共享同一存储设备,这种集中管理简化了存储架构并提高了资源利用率。
- • 统一接口:NVMeoF 可以在现有的以太网或光纤网络上实现存储访问,支持多种数据中心架构,提供灵活性和兼容性。
-
挑战:
- • 网络复杂性:虽然 NVMeoF 可以提高性能,但它也增加了网络架构的复杂性,管理和配置这些高性能网络可能会带来挑战。
- • 基础设施升级:为了充分利用 NVMeoF 的优势,数据中心可能需要升级现有的网络基础设施,包括交换机、网络接口和线缆等,导致成本上升。
- • 成熟度和兼容性:NVMeoF 作为相对较新的协议,市场上对其支持和兼容性的成熟度仍然有限。企业在实施时可能会遇到软件、硬件和应用程序的兼容性问题。
- • 安全性:随着存储设备和服务器的直接连接,NVMeoF 也可能面临新的安全挑战,如数据传输中的安全漏洞等。
小结
Viking Enterprise:企业存储的分层视角-Fig-10
- • 闪存在某些层级(0和1)中有其位置,不可替代;
- • 平衡的企业会同时包含HDD和闪存;
- • 这种平衡方法推动多种不同的存储接口进入企业环境,包括NVMe或CXL闪存(层级0)、SAS SSD或低成本/高性能NVMe SSD(层级1)、SAS和SATA HDD(层级2/3)、LTO-磁带库或光存储解决方案(层级3);
- • 因为各种连接器的存在,管理分层企业是一个挑战;
- • 使用NVMeoF Everywhere方法可以使企业管理大为简化,实现统一的企业管理界面。