NVMe FDP会被广泛使用吗?

33 篇文章 68 订阅
订阅专栏

图片

文章开头,我们需要先了解固态硬盘的读写机制。我们知道,固态硬盘的存储单元是由闪存颗粒组成的,无法实现物理性的数据覆盖,只能擦除然后写入,重复这一过程。因而,我们可以想象得到,在实际读写过程中,数据的读写势必会在闪存颗粒上进行多次的擦除写入,特别是当某些区块已经完全被塞满的情况下。

这些多次的操作,增加的写入数量和原始需要写入的数量的比值,就是所谓的写入放大。所以说,写入放大数值高,会损耗固态硬盘寿命。(固态硬盘闪存颗粒有着额定的P/E值,即最大的读写次数,写入放大高,P/E损耗快,寿命低。)在QLC介质中,WAF的影响更加致命。

图片

举个例子,最坏情况下的,假如我要写入一个4KB的数据Z覆盖A,并恰好目标块没有空余的页区,需要进行GC回收。这个时候就需要把B、C、D、E、F五分数据都搬走,然后擦除整个数据块,擦除完成后再整体写入6个数据页。这个整个过程,Host虽然只写了4KB的数据,但实际过程中,由于GC的问题,NAND最终写入了24KB。那么写放大WAF=24KB/4KB=6.

图片


影响WAF的因素有很多:

  • SSD FTL算法的设计会影响写入放大的大小

  • Wear Leveling,WL磨损均衡:这一机制主要是通过均衡所有的闪存颗粒,从而延长整体的使用寿命,然而依旧是增加整体的写放大

  • Over-Provisioning,OP冗余空间:也会影响NAND写入的比例,最终影响写放大

  • Garbage Collection,GC垃圾回收:比如上面的例子,就是GC垃圾回收搬迁数据,擦除数据块后写入带来了整体写放大提升。

  • 业务读写的数据模型:随机写和顺序写对NAND的写入比例有非常大的影响,直接影响写放大的系数

  • 系统层的TRIM操作:会影响invalid无效数据是否在GC过程中搬迁,对写放大影响也有重要的作用。

写放大WAF是NAND-based SSD寿命消耗的关键参数,WAF越大,寿命消耗越快,越接近1,则寿命消耗越慢,也是最理想的情况。

扩展阅读:SSD写放大的优化策略要统一标准了吗?

NVME FDP(Flexible Data Placement)的出现,就是通过灵活的数据放置使主机服务器能够更好地控制数据在 SSD 中的位置。目标是减少写入放大以提高性能。谷歌和Meta向NVME协议组织提交了Flexible Direct Placement TP4146提案,小编在nvme spec 2.0c还没查到,根据最新消息,预计在NVME spec 2.5正式合入

图片

通过示意图,来看看FDP的作用。如下图,来自应用程序 A、B 和 C 的混合数据被写入介质中可用的“超级块”。然后,应用程序 A的数据被删除,删除后会触发盘内的GC垃圾回收。完成后,将测量两个模型的写放大 WAF。

图片

图片

  • 在传统SSD中,每个应用写的数据是散乱分布不同的Die/Block,需要盘预留空间OP完成垃圾回收数据搬迁,垃圾回收过程中,还有可能会影响前端IO性能。

  • 在FDP SSD中,不同的应用程序写入了特定的物理空间,即使某个程序的数据删除,可以针对指定的物理空间执行擦除,减少了不必要的垃圾回收,降低了写放大,同时也避免了对前端IO的影响。

Meta在跟韩国的一家SSD控制器厂商FADU合作中,FDP的功能已被验证可以有效降低写放大,减少了设备磨损,并提高了性能和 QoS。

图片

上图中数据显示:

  • 蓝色线是64K随机写,随着盘运行时间的增加,写放大也会不断增加,最后WAF超过3.

  • 黄色线是通过软件优化的方式调整数据落盘的方式“Log Structured 8 Writers 64KB”,写放大突增到2-2.4,之后保持正常波动,不再上升。

  • 红色线是“Log Structured 8 Writers 64KB with FDP”,在黄色线的基础上,打开FDP,写放大接近1.

图片

如上图,因为写放大的原因,对性能也产生了很大的影响。写放大的变化趋势和性能的变化趋势,基本成反比

此外,谷歌也在大力推进FDP的落地。根据谷歌公布的数据中心案例数据,基于4K随机写+OP 28%,在使能FDP功能下,写放大从2.5下降到1.25.

图片

谷歌这个案例可以看到FDP带给数据中心的好处有很多:

  • 节省OP空间,可以释放更多的存储容量,节省18%的成本。

  • 写放大的降低,也会提升盘的使用寿命,让SSD可以使用更长的时间,这部分也会有35%的成本节省。

  • 写放大降低后,也相应可以提升盘的性能。同样使能更多盘容量空间。

支持 FDP 的系统架构的前景,其中 WAF ~1 是新常态,应该足以引起任何超大规模运营商的注意。此外,FDP非常容易实现。它与旧主机向后兼容,因此无需升级基础架构。设备读取和其他行为不会更改。

扩展阅读: NVMe SSD:ZNS与FDP对决,你选谁?

读到这里,不知道大家是否有一个疑问,既然FDP这么优秀,会被广泛使用吗?

基于目前小编对FDP的认知,FDP在大型数据中心中应用可能会比较顺畅,Meta/Google也都在全力推进,并已经有突破的进展,但是并不会得到市场广泛应用。主要原因是FDP的实现,是需要对应用负载有清晰的了解,并有一定的软件开发适配。这部分开发适配的代价与使能FDP的收益,估计只有大规模数据中心可以最大化的平衡。

[元带你学NVMe协议] Nvme 1.4 和 1.3 有什么区别?
串起点滴
05-10 3996
全文4000+字, 最新的1.4 版本在2019 年6 月面世,在支持PCIe 4.0 x4之后,顺序读写速度从3500MB/s 左右,翻倍到约7000MB/s 。
下一代ZNS?浅谈FDP在企业级SSD应用前景
大隐隐于野
01-12 553
ZNS对于存储系统或者云系统,在系统侧可控制IO在SSD内的具体写入位置,通过系统侧的主动垃圾回收(Garbage Collection,简称GC),将SSD内的GC削减到0。另一方面,由于SSD内基本不需要GC,可以减少SSD内的冗余空间(Over-Provisioning,简称OP),使OP基本减到零,对于SSD内部管理表项也带来简化,从而削减企业级SSD的DRAM。这样的问题是,系统应用需要知道SSD上的NAND具体操作方式和物理拓扑,NAND代次演进和厂家差异,系统应用也需要进行适配。
NVME SSD FDP功能有什么作用?
存储随笔
12-19 2102
靠近垂直轴的蓝色箭头在底部表示“更好”,在顶部表示“更差”。三条线中的第一条(蓝色)代表经历64kB随机写入的标准 SSD,起始值为1,然后在左侧快速上升,然后逐渐变细,接近略高于3的 WAF 渐近线。在带宽是最重要的参数的系统中,这意味着一个 FDP SSD 可以完成三个标准 SSD 的工作,这应该带来非常显著的成本节省。考虑到这一点,软件方法的黄色线条比蓝色线条下降得更快也就不足为奇了,但从长远来看,写入速度在1,500-2,000MB/s之间随机跳跃,这远优于蓝色线条的1,000MB/s水平!
简单说说NVMe 2.0协议
dark的博客
06-01 7518
简单介绍一下2022年1月最新的NVMe协议
NVMe TP4146: Flexible-Data-Placement-Mode-FDP分析和思考
weixin_43158604的博客
09-07 2123
NVMe TP4146: Flexible-Data-Placement-Mode-FDP分析
SSD写放大的优化策略要统一标准了吗?
存储随笔
10-26 2711
写放大WAF是NAND-based SSD寿命消耗的关键参数,WAF越大,寿命消耗越快,越接近1,则寿命消耗越慢,也是最理想的情况。为了让SSD的WAF写放大系数接近1,这些年,各种方案也被提出来。本文介绍各种优化写放大的方案策略
Hadoop的分布式架构改进与应用
架构设计
05-31 253
Hadoop的分布式架构改进与应用 Baofeng Zhang@zju 转载请注明出处:http://blog.csdn.net/zbf8441372 1. 背景介绍 谈到分布式系统,就不得不提到Google的三驾马车:GFS[1],MapReduce[2]和BigTable[3]。虽然Google没有开源这三个技术的实现源码,但是基于这三篇开源文档, Nutch项目子项目之一的Yaho...
固态存储是未来|浅析SSD架构的演进与创新技术-1
存储随笔
03-12 1762
信息显示该闪存拥有1Tb的单Die容量,面积密度高达28.5 Gb/mm²(如下图,市面上的存储密度排行来看,三星这个存储密度排名第一),传输速率达到了3.2 GB/s,相较于当前市场常见的传输速度为2.4 GB/s的3D NAND闪存有了较大的提升。它的主要原理在于将传统的命令和地址(CMD/ADD R)信号与数据传输(DATA/DQ)信号分离到不同的通道上,即创建了专门的SCA CA通道用于命令和地址的串行传输,而DQ通道专注于数据的并行传输。随着时代的发展,SSD架构,也不断有新的挑战和需求。
国产“芯“希望|PCIe 5.0 SSD以后就靠它了~
存储随笔
03-23 1296
官方数据显示,英韧科技将 YRS820 控制器与长江存储(YMTC)的 232 层 X3-9070 TLC NAND 结合,分别实现了超过 14.2 GB/s 的顺序读取速度和 12.4 GB/s 的顺序写入速度。FDP功能的引入,有助于灵活写入数据,提升稳态随机写性能,且大大降低写放大,特定应用中,WAF甚至可接近1。FDP功能的导入仅需较少的生态系统支持,也没有顺序写入的限制,标准数据中心SSD使用过程中,可灵活配置打开或者关闭FDP功能。
NVMe 1.3中文版翻译
01-25
NVMe(Non-Volatile Memory Express)是一种高速接口标准,用于连接使用非易失性存储介质(如固态硬盘SSD)的计算机系统。NVMe 1.3是该规范的一个重要版本,它提供了对高性能、低延迟存储设备的优化访问方式,显著...
Nvme通用驱动 64 Nvme通用驱动 64
06-08
Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme通用驱动 64Nvme...
老主板BIOS添加NVME支持工具(附使用教程).rar
05-11
老主板BIOS添加NVME支持工具(附使用教程)
nvme id-ctrl 具体使用方法
最新发布
09-21
nvme id-ctrl 具体使用方法
SSD的垃圾回收-GC
weixin_43158604的博客
09-07 571
当前大多数SSD盘的内部实现,单个single block中的物理空间一般是按照4K顺序分配(与NAND的物理结构有关,可以调整分配大小,也可以组成super block的所有single block交替分配若干个4K)。假如只有一个single block,有1024个4K的空间,总空间为1024*4K = 1MB大小。APP向这个SSD盘写入2个文件file1和file2的数据,file1和file2分别为512KB大小。
【FAST‘24论文解读】I/O直通:上游Linux一种灵活和有效的I/O路径
梦幻之巅
04-03 304
前几天有一位朋友问我一个问题:如何优化单机存储引擎在混合读写下的吞吐和延迟?根据我的了解,单机引擎有基于文件系统的、有直接管理裸盘的,有基于KV数据库的,还有基于DPU等软硬协同设计实现的。这些年随着闪存设备等高性能介质的大量使用,传统的文件系统和I/O堆栈所带来的性能损耗越发明显,其设计抽象愈发不适应新介质标准的发展。通过调整参数一定程度上能提升性能,但总体效果有限。
What’s new in Cassandra 1.1: Flexible data file placement
haha72897的专栏
06-15 379
Apache Cassandra is designed from the ground up to work well on spinning disks, but it can also leverage the high IOPS of SSDs. (Don’t miss the video and slides about using Cassandra with SSDs from
存储随笔《NVMe专题》大合集
热门推荐
存储随笔
07-26 1万+
存储随笔连续发布了PCIe专题和SATA专题的PDF版文档。今天,NVMe专题也顺利与大家见面了,望大家继续支持,请点击"阅读原文"下载PDF版。 由于知识有限,如有不正确的地方,烦请指正!再次感谢大家的支持与鼓励! 附录: NVMe专题文章列表(点击即可跳转) NVMe系列专题之一:NVMe技术概述 NVMe系列专题之二:队列(Queue)
独家发布 | Linux NVMe Driver学习笔记大合集
存储随笔
07-26 1万+
近期,存储随笔连载了10篇Linux NVMe Driver学习笔记,主要基于两大块的内容: 初始化和Block IO请求处理过程。我们通过两幅简图回顾一下前面的内容: 初始化:  这个过程中主要调用了两个函数: nvme_init和nvme_probe. Block IO请求处理过程: 更详细的内容,请参考具体文章:
浅析PCI配置空间
存储随笔
12-15 8275
在PCIe的拓扑结构中,最多支持256个Bus, 每条Bus最多支持32个Device,每个Device最多支持8个Function,所以,由Bus:Device:Function(BDF)构成了每个Function的唯一的"身份证号". 如下图,一个简单的PCIe拓扑结构中BDF分布: 那么,这么多的Function,Host怎么知道他们具有什么本领?答案是,每个Fun
浪潮am5212支持插入nvme吗?
06-08
浪潮AM5212服务器不支持直接插入NVMe固态硬盘。该服务器的硬盘插槽类型为2.5英寸SAS/SATA热插拔硬盘插槽,如果需要使用NVMe固态硬盘,需要通过PCIe扩展卡或者转接卡的方式实现。需要注意的是,在使用PCIe扩展卡或转接卡时,要确保服务器的PCIe接口版本和NVMe固态硬盘的接口版本一致,以确保兼容性和稳定性。
写文章

热门文章

  • 一招完美解决SSD系统盘卡顿死机的问题! 93513
  • 给老笔记本换固态硬盘,能提升系统速度吗? 81241
  • 浅析PCIe链路LTSSM状态机 75488
  • 彻底卸载Microsoft Edge的几种方法 71592
  • 如何在Windows平台实现zip压缩命令? 46686

分类专栏

  • 产业动态 302篇
  • 人工智能 38篇
  • HDD 28篇
  • 学术前沿 17篇
  • CXL 10篇
  • 云技术 54篇
  • 磁带存储技术 6篇
  • 异构计算 22篇
  • CPU 2篇
  • 古猫职言 1篇
  • OCP 23篇
  • 存储随笔 1篇
  • Windows 3篇
  • 年度榜单 2篇
  • 手机 2篇
  • NVME驱动 8篇
  • 文件系统 6篇
  • SSD 153篇
  • NAND 44篇
  • Controller 2篇
  • LDPC 5篇
  • SCSI 2篇
  • SATA 18篇
  • PCIe 53篇
  • NVMe 33篇
  • Linux 50篇
  • 公告 1篇
  • Python 6篇
  • 内存架构 45篇

最新评论

  • 详细解读QLC SSD无效编程问题-1

    cwtlps: 大佬,请问这个解决方案怎么说的呢? 我理解,为了不产生UECC,实际设计中还是需要继续写入的吧?

  • NCCL共享内存概念解读分析

    森林好小子999: 写的有点问题吧

  • 浅析CXL P2P DMA加速数据传输拥堵问题的解决方案

    weixin_45779535: 请问UIO可以支持load store和原子指令吗,因为3.1的GIM也是基于UIO的,实现host之间的p2p,除了DMA应该也支持load store访问吧。 另外对于UIO的性能比较困惑,UIO是基于CXL.io协议的吗,那么传输延迟应该是接近pcie的性能微秒级别吗?还是会更低 期待您的回答,非常感谢

  • 浅析NVMe key per IO加密技术-1

    TenXm: 古猫先生您好,加密盘初始化时是否可以选择支持KPIO或支持Opal

  • 彻底卸载Microsoft Edge的几种方法

    m0_66036640: 有办法了,有软件,edge-byebye,b站上有

大家在看

  • Project Online 高级版部署方案
  • 【数据结构】图的遍历
  • css鼠标常用样式 946
  • LeetCode 815.公交路线 294
  • 6.数据库-数据库设计

最新文章

  • 基于SSD的RAG技术方案,推动LLM规模扩展
  • NVMe的I3C技术改进:解决现代数据中心的管理挑战
  • YMTC Xtacking 4.0(Gen5)技术深度分析
2024
09月 23篇
08月 42篇
07月 70篇
06月 76篇
05月 57篇
04月 48篇
03月 59篇
02月 53篇
01月 86篇
2023年135篇
2022年102篇
2020年2篇
2018年13篇
2017年47篇

目录

目录

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

古猫先生

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或 充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值

天下网标王java网站优化辽阳网站优化网站首页优化外包济南网站服务器优化网站关键词组优化实力强的电商网站优化企业网站优化哪个最好密云网站推广和优化益阳做网站优化英文网站优化大连网站优化排名优化自贡网站制作优化优化企业网站有哪些技能网站优化的主要流程南京做网站优化如何优化整形的网站济南网站优化排名软件网站优化资源宝山区优化网站免费优化推广网站的软件洪梅家具网站优化在线推广谷歌网站seo站内优化网站首页没有新闻容易优化吗襄阳网站运营优化公司馆陶网站搜索引擎优化网站推广优化是用金手指专业正安网站seo优化价格邛崃市网站优化泰州网站优化之家网站排名优化向往云速捷看看香港通过《维护国家安全条例》两大学生合买彩票中奖一人不认账让美丽中国“从细节出发”19岁小伙救下5人后溺亡 多方发声卫健委通报少年有偿捐血浆16次猝死汪小菲曝离婚始末何赛飞追着代拍打雅江山火三名扑火人员牺牲系谣言男子被猫抓伤后确诊“猫抓病”周杰伦一审败诉网易中国拥有亿元资产的家庭达13.3万户315晚会后胖东来又人满为患了高校汽车撞人致3死16伤 司机系学生张家界的山上“长”满了韩国人?张立群任西安交通大学校长手机成瘾是影响睡眠质量重要因素网友洛杉矶偶遇贾玲“重生之我在北大当嫡校长”单亲妈妈陷入热恋 14岁儿子报警倪萍分享减重40斤方法杨倩无缘巴黎奥运考生莫言也上北大硕士复试名单了许家印被限制高消费奥巴马现身唐宁街 黑色着装引猜测专访95后高颜值猪保姆男孩8年未见母亲被告知被遗忘七年后宇文玥被薅头发捞上岸郑州一火锅店爆改成麻辣烫店西双版纳热带植物园回应蜉蝣大爆发沉迷短剧的人就像掉进了杀猪盘当地回应沈阳致3死车祸车主疑毒驾开除党籍5年后 原水城县长再被查凯特王妃现身!外出购物视频曝光初中生遭15人围殴自卫刺伤3人判无罪事业单位女子向同事水杯投不明物质男子被流浪猫绊倒 投喂者赔24万外国人感慨凌晨的中国很安全路边卖淀粉肠阿姨主动出示声明书胖东来员工每周单休无小长假王树国卸任西安交大校长 师生送别小米汽车超级工厂正式揭幕黑马情侣提车了妈妈回应孩子在校撞护栏坠楼校方回应护栏损坏小学生课间坠楼房客欠租失踪 房东直发愁专家建议不必谈骨泥色变老人退休金被冒领16年 金额超20万西藏招商引资投资者子女可当地高考特朗普无法缴纳4.54亿美元罚金浙江一高校内汽车冲撞行人 多人受伤

天下网标王 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化