前往小程序,Get更优阅读体验!
立即前往
发布
社区首页 >专栏 >Viking Enterprise:企业存储的分层视角

Viking Enterprise:企业存储的分层视角

作者头像
数据存储前沿技术
发布2025-02-11 18:32:00
发布2025-02-11 18:32:00
670
举报

关键要点

1. 企业部署需要平衡硬盘和固态硬盘的需求。

2. 存储需求分为四个层次:热数据、温数据、冷数据和极冷数据。

3. 固态硬盘可以用于所有层次,但不是必需品。

4. NVMe over Fabrics(NVMe-oF)是一种协议,可以连接设备并提高存储效率。

5. 选择正确的存储选项需要考虑成本、性能和可靠性等因素。

Viking Enterprise:企业存储的分层视角-Fig-1

  1. 1. 企业部署的层次结构:
    • • 企业部署通常由多个层次组成,每个层次服务于特定的需求。
    • • 通常包括四个层次:
      • (0) 任务关键型:高性能工作负载,对延迟至关重要(100%正常运行时间)。
      • (1) 热数据:日常用于业务操作,但对延迟要求不高(>99.999%正常运行时间)。
      • (2) 温数据:必须访问但很少访问的数据(<99%正常运行时间)。
      • (3) 冷数据:归档或很少使用的数据(<99%正常运行时间)。
  2. 2. 各层次的功能和存储类型:
    • • 每个层次有其特定功能,该功能决定了所需的存储类型。
    • • 较低的层次可靠性较低,成本也较低。
  3. 3. 闪存的使用情况:
    • 闪存可以在所有层次中使用,但并非所有层次都需要闪存。
    • • 随着容量需求的增加,闪存在较低层次变得不再经济可行

Viking Enterprise:企业存储的分层视角-Fig-2

企业存储结构

图片右侧展示了一个存储层次结构的金字塔图表:

  • • Tier 0: Flash/CXL(热缓存)
  • • Tier 1: Flash/HDD,包含电子邮件、数据库(在线存储)
  • • Tier 2: HDD,包含备份、网络文件存储、成本敏感型存储(近线存储)
  • • Tier 3: HDD/ Tape/ Optical,包含归档数据(冷存储)
  1. 1. 大部分存储数据位于底层
    • • 大部分存储数据位于较低的层次(Tier 3)。
    • • 由于对成本非常敏感,盘驱动器(HDDs)短期内不会消失。
  2. 2. 法规和政府要求推动更多内容存储在最低存储层
    • • 例如 HIPPA、电子邮件存储等。
  3. 3. 按性能付费 -这不仅是一个人力资源概念。
    • • Tier 0 是按每GB成本最贵的层次。
    • • Tier 3 是按每GB成本最便宜的层次。
    • • Tier 0 到 Tier 3 在每IOPs成本上相似。
  4. 4. 简化层次管理和优化成本
    • • 通过 NVMeoF(NVMe of Fabric)实现全连接,以简化层次管理并优化成本。

如何理解数据中心网络拓扑中的 Fabirc 概念?

在数据中心网络中,Fabric(网络结构)是指用于连接不同计算资源(如服务器、存储设备和网络设备)的一系列硬件和软件组件。Fabric 提供了一种结构化的方式来传输数据,并确保各组件之间的高效通信。

  • 组件:Fabric 通常包括交换机、路由器、网络接口卡(NIC)以及连接这些设备的各种网络介质(如光纤和以太网线)。
  • 特点
    • 高带宽和低延迟:Fabric 设计用于支持高带宽和低延迟的数据传输,满足现代应用对性能的需求。
    • 可扩展性:Fabric 允许在不干扰现有系统的情况下轻松增加新设备,从而扩展数据中心的资源。
    • 灵活性:通过支持多种协议(如 Ethernet、Fibre Channel、InfiniBand),Fabric 可以适应不同的应用需求。
  • 应用:在 NVMeoF(NVMe over Fabrics)中,Fabric 连接 NVMe 设备和服务器,提供了低延迟和高吞吐量的存储访问。这种拓扑结构不仅提高了存储性能,还支持动态资源分配和共享存储,增强了数据中心的整体效率。

Viking Enterprise:企业存储的分层视角-Fig-3

  1. 1. NVMeoF的定义和优势:
    • • NVMeoF是一种架构协议,允许以太网接口将设备连接在一起。
    • • NVMe是一种比其他协议(iSCSI/FC/NFS/CIFS等)更轻量的协议,能够更好地利用CPU周期和可用的系统带宽(BW)。
    • • 具有更低的延迟和改善的存储管理和配置。
    • • 更好地支持计算和存储的解耦。
  2. 2. 应用范围:
    • • 最初目标是将SSD连接到PCIe总线,但可以扩展到连接其他设备,如将HDD连接到PCIe总线。
  3. 3. 成本和管理:
    • • 尽管基础设施投入成本较高,但运营成本较低,企业管理简化。
  4. 4. 存储迁移要求:
    • • 为了实现存储快捷迁移,这个领域必须有一个HDD解决方案(如何实现HDDs的NVMe接口改造?)

Viking Enterprise:企业存储的分层视角-Fig-4

NVMEoF 互联优势

  • • 企业内通用接口
  • • 利用现有的以太网连接
    • • 消除基础设施内的多种协议接口
    • • 降低基础设施成本
    • • 简化基础设施管理
  • • 没有额外的学习成本,我们都知道如何管理基于以太网的设备
  • • 提供企业管理的统一面板
  • • 更高效地利用带宽和可用资源

Viking Enterprise:企业存储的分层视角-Fig-5

NVMEoF 互联挑战

并非所有设备类型都支持 NVMeoF 连接(HDD不支持)

并非所有存储设备层级都适用于 NVMe(冷存储无性能、延迟要求)

  • • 用于在线、近线和离线/冷存储的 HDD 层级并非原生 NVMe
  • • 可以使 HDD 层级支持 NVMe 前端,但这会增加大量的采购成本()

启用支持 NVMe 的 HDD 解决方案的方法

  • • 添加一个运行在目标模式的带有 NVMe 适配器的计算节点
  • • 为基于 HDD 的 IOPs 添加原生 NVMe 前端
  • • 以太网连接的 HDDS

两种方法都会增加解决方案的采购成本,同时启用从企业中消除 SAS(或其他协议)

Viking Enterprise:企业存储的分层视角-Fig-6

Tier 0 分析

1. Tier 0 在 CXL 和共享内存方面的独特定位:

- 缩短多个 CPU 间共享数据的访问延迟

- 简化软件,提高性能

- CXL 需要进一步成熟,才能在这一领域发挥作用

2. 目前使用基于 NVMe 的 SSD(包括SCM)实现:

- 提供顶级性能(低延迟和高吞吐量)

- 当前解决方案的黄金标准

- 轻量级的 NVMe 协议使 CXL 成为该层级的唯一竞争者

- 双端口 SSD 允许来自两个主机的数据访问

- 交换结构可扩展到超过两个主机的访问

- 单端口 SSD 提供更低的采购成本

3. CXL 前景可期,但 NVMe SSD 仍是这一领域的首选。

Viking Enterprise:企业存储的分层视角-Fig-7

Flash Options – Tier 1

1. 这一层级历史上使用 2.5 英寸 HDD 实现:

- 2.5 英寸硬盘的吞吐量高于 3.5 英寸硬盘,并且延迟更低

- 由于闪存的成本和容量优势(闪存仍然价高于HDD,只是成本最近几年快速下降),这种方案现在不再重要

2. 闪存的出现(尤其是 SAS SSD)极大地颠覆了该领域

3. SAS 仍然是该层级最具性价比的选项:

- 相较于 NVMe,采购成本更低

- 市场上有多家 SAS SSD 厂商

- 性能适合该层级的需求

- 旧版软件和应用程序仍使用这种接口

- 一些旧版 FC 主机也在使用,但 SAS SSD 是最优存储介质

4. 该层级在使用 NVMeoF Everywhere 方法和后端 SAS SSD 时收益显著

Viking Enterprise:企业存储的分层视角-Fig-8

Flash Options – Tier 2

1. 通常实现为近线(Near Line)存储层

2. HDD 与闪存的分界点

3. 不建议在此层使用闪存

4. 此层不需要闪存的优势:

- 通常连接到性能较慢且高度共享的网络

- 数据不需要立即访问

- 可以接受较高的延迟

- 不运行关键任务应用

- 由于规模较大,对每 GB 成本更敏感

5. 平衡的拓扑结构不会在此层使用闪存

6. 此层在采用 NVMeoF Everywhere 方案结合后端 SAS HDD 时获益显著

Viking Enterprise:企业存储的分层视角-Fig-9

  • Flash Options – Tier 3
  • • 这一层通常被称为冷存储;
  • • 大多数数据只写一次,可能永远不会被读取;
  • • SATA硬盘和LTO在这个领域占主导地位;
  • • 光学应用有限,但新的选择正在出现;
  • • 不应在这里考虑闪存;
  • • 这一层通过采用后端SATA硬盘的NVMeof Everywhere方法获益良多。

NVMeoF 优势与存在的挑战?

优势

  • 低延迟:NVMeoF 通过利用 NVMe 协议的特性,在网络上传输存储数据时显著减少延迟,相较于传统协议(如 iSCSI 和 FC),可以更快地访问数据。
  • 高吞吐量:NVMeoF 支持多队列和高并发操作,可以充分发挥现代 SSD 的性能,从而实现更高的数据吞吐量。
  • 资源共享:通过 NVMeoF,多个服务器可以共享同一存储设备,这种集中管理简化了存储架构并提高了资源利用率。
  • 统一接口:NVMeoF 可以在现有的以太网或光纤网络上实现存储访问,支持多种数据中心架构,提供灵活性和兼容性。

挑战

  • 网络复杂性:虽然 NVMeoF 可以提高性能,但它也增加了网络架构的复杂性,管理和配置这些高性能网络可能会带来挑战。
  • 基础设施升级:为了充分利用 NVMeoF 的优势,数据中心可能需要升级现有的网络基础设施,包括交换机、网络接口和线缆等,导致成本上升。
  • 成熟度和兼容性:NVMeoF 作为相对较新的协议,市场上对其支持和兼容性的成熟度仍然有限。企业在实施时可能会遇到软件、硬件和应用程序的兼容性问题。
  • 安全性:随着存储设备和服务器的直接连接,NVMeoF 也可能面临新的安全挑战,如数据传输中的安全漏洞等。

小结

Viking Enterprise:企业存储的分层视角-Fig-10

  • • 闪存在某些层级(0和1)中有其位置,不可替代;
  • • 平衡的企业会同时包含HDD和闪存;
  • • 这种平衡方法推动多种不同的存储接口进入企业环境,包括NVMe或CXL闪存(层级0)、SAS SSD或低成本/高性能NVMe SSD(层级1)、SAS和SATA HDD(层级2/3)、LTO-磁带库或光存储解决方案(层级3);
  • • 因为各种连接器的存在,管理分层企业是一个挑战;
  • • 使用NVMeoF Everywhere方法可以使企业管理大为简化,实现统一的企业管理界面。
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2024-10-18,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 王知鱼 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 关键要点
    • 企业存储结构
    • NVMEoF 互联优势
    • NVMEoF 互联挑战
  • 小结
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档