分布式存储系统如何应对SSD硬盘UNC坏块可靠性问题?

2023-10-10 07:12

本文主要是介绍分布式存储系统如何应对SSD硬盘UNC坏块可靠性问题?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Uncorrectable Bit Errors(UNC),也有时候叫做Media Error(介质错误)是指在闪存设备中出现的无法修复的位错误。Media Error的产生意味着即使硬盘自身已经用尽了所有容错手段(如LDPC解码,retry等),该扇区(LBA)的数据已经无法被正确读出,这些错误是由于闪存单元的物理磨损或损坏所导致的,随着闪存设备使用时间的增长,出现UNC的可能性也逐渐增加。

对云数据中心和业务的影响主要体现在以下几个方面:

  1. 数据可靠性下降:UNC的出现意味着数据已经发生了永久性的损坏,无法被修复。这将对云数据中心的数据可靠性造成负面影响,可能导致数据丢失或损坏,进而影响业务的正常运行。
  2. 设备寿命缩短:随着UNC的出现,闪存设备的寿命也将逐渐缩短。这将增加云数据中心的运营成本,需要更频繁地更换设备,同时也可能导致设备供应短缺。
  3. 性能下降:闪存设备在出现UNC之前,往往会首先出现可纠正的位错误(CE)。随着CE数量的增加,设备需要进行更多的错误修复操作,这将消耗更多的资源并降低设备的性能。
  4. 安全风险增加:UNC的出现可能会导致数据被篡改或窃取,进而增加云数据中心的安全风险。如果UNC发生在关键的业务数据上,可能会对业务造成重大影响。

综上所述,Uncorrectable Bit Errors(UNC)对云数据中心和业务的影响非常大,需要采取有效的措施来预防和处理UNC的出现。

近日看到一篇关于Facebook工程师通过分布式系统优化降低UNC影响的论文,小编觉得挺好的,这里分享下这篇文章的核心思路,心急的朋友可以直接点击文章底部“阅读原文”直接获取论文pdf文档。

本文提出了一种解决闪存寿命问题的方案DIRECT(Distributed error Isolation and RECovery Techniques),通过采用更密集、可靠性更低的闪存存储技术,以允许设备以更高的位错误率运行。DIRECT使用端到端的方法,包括数据编码、解码和错误纠正等技术,以实现数据的持久性和可用性。

DIRECT策略是一种用于提高分布式存储系统可靠性的方法,其主要内容包括以下几个方面:

  1. 错误放大减少:DIRECT策略要求系统减少数据对象的错误放大,并修复远程副本中的损坏。错误放大是指当存储系统中发生错误时,这些错误会在数据读取和写入过程中被放大。通过减少错误放大,DIRECT可以减少数据的损坏,提高系统的可靠性。
  2. 本地元数据错误放大减少:DIRECT策略还要求系统减少本地元数据的错误放大。元数据是描述数据的数据,例如文件的名称、大小、创建时间等等。由于元数据在存储系统中的重要性,其错误放大会比数据错误放大更加严重。通过减少本地元数据的错误放大,DIRECT可以提高系统的可靠性。
  3. 安全恢复语义:DIRECT策略要求系统确保安全恢复语义。这意味着在发生故障时,系统能够恢复到一致的状态,而不会出现数据丢失或损坏的情况。通过确保安全恢复语义,DIRECT可以提高系统的可靠性

DIRECT策略是一种利用分布式级别冗余来提高闪存存储技术可靠性的策略。它通过使用端到端的方法来增加分布式存储系统的可靠性。在ZippyDB和HDFS两个真实的分布式存储系统中实施DIRECT策略

  1. 在ZippyDB中,DIRECT通过减少应用程序可见的错误率和恢复时间来提高可靠性。它能够将应用程序可见的错误率降低100倍以上,并将恢复时间缩短10000倍以上。这意味着,如果出现错误,DIRECT可以更快地将系统恢复到正常状态,从而减少了故障对应用程序的影响。

  1. 在HDFS中,DIRECT则允许系统容忍更高的位错误率,而不会出现应用程序可见的错误。具体来说,DIRECT可以使HDFS容忍比传统存储系统高10000到100000倍的位错误率。这意味着,使用DIRECT的HDFS可以在更恶劣的存储条件下运行,而不会影响到应用程序的正常运行。

从这篇论文的技术分享来看,分布式存储系统的软件强大,可以极大概率弥补硬件上的可靠性问题,减少对云存储系统的安全性。

这篇关于分布式存储系统如何应对SSD硬盘UNC坏块可靠性问题?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/178849

相关文章

MySQL 设置AUTO_INCREMENT 无效的问题解决

《MySQL设置AUTO_INCREMENT无效的问题解决》本文主要介绍了MySQL设置AUTO_INCREMENT无效的问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参... 目录快速设置mysql的auto_increment参数一、修改 AUTO_INCREMENT 的值。

关于跨域无效的问题及解决(java后端方案)

《关于跨域无效的问题及解决(java后端方案)》:本文主要介绍关于跨域无效的问题及解决(java后端方案),具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录通用后端跨域方法1、@CrossOrigin 注解2、springboot2.0 实现WebMvcConfig

Go语言中泄漏缓冲区的问题解决

《Go语言中泄漏缓冲区的问题解决》缓冲区是一种常见的数据结构,常被用于在不同的并发单元之间传递数据,然而,若缓冲区使用不当,就可能引发泄漏缓冲区问题,本文就来介绍一下问题的解决,感兴趣的可以了解一下... 目录引言泄漏缓冲区的基本概念代码示例:泄漏缓冲区的产生项目场景:Web 服务器中的请求缓冲场景描述代码

Java死锁问题解决方案及示例详解

《Java死锁问题解决方案及示例详解》死锁是指两个或多个线程因争夺资源而相互等待,导致所有线程都无法继续执行的一种状态,本文给大家详细介绍了Java死锁问题解决方案详解及实践样例,需要的朋友可以参考下... 目录1、简述死锁的四个必要条件:2、死锁示例代码3、如何检测死锁?3.1 使用 jstack3.2

解决JSONField、JsonProperty不生效的问题

《解决JSONField、JsonProperty不生效的问题》:本文主要介绍解决JSONField、JsonProperty不生效的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑... 目录jsONField、JsonProperty不生效javascript问题排查总结JSONField

github打不开的问题分析及解决

《github打不开的问题分析及解决》:本文主要介绍github打不开的问题分析及解决,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、找到github.com域名解析的ip地址二、找到github.global.ssl.fastly.net网址解析的ip地址三

MySQL版本问题导致项目无法启动问题的解决方案

《MySQL版本问题导致项目无法启动问题的解决方案》本文记录了一次因MySQL版本不一致导致项目启动失败的经历,详细解析了连接错误的原因,并提供了两种解决方案:调整连接字符串禁用SSL或统一MySQL... 目录本地项目启动报错报错原因:解决方案第一个:第二种:容器启动mysql的坑两种修改时区的方法:本地

springboot加载不到nacos配置中心的配置问题处理

《springboot加载不到nacos配置中心的配置问题处理》:本文主要介绍springboot加载不到nacos配置中心的配置问题处理,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑... 目录springboot加载不到nacos配置中心的配置两种可能Spring Boot 版本Nacos

Java中JSON格式反序列化为Map且保证存取顺序一致的问题

《Java中JSON格式反序列化为Map且保证存取顺序一致的问题》:本文主要介绍Java中JSON格式反序列化为Map且保证存取顺序一致的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未... 目录背景问题解决方法总结背景做项目涉及两个微服务之间传数据时,需要提供方将Map类型的数据序列化为co

如何解决Druid线程池Cause:java.sql.SQLRecoverableException:IO错误:Socket read timed out的问题

《如何解决Druid线程池Cause:java.sql.SQLRecoverableException:IO错误:Socketreadtimedout的问题》:本文主要介绍解决Druid线程... 目录异常信息触发场景找到版本发布更新的说明从版本更新信息可以看到该默认逻辑已经去除总结异常信息触发场景复