分布式存储系统如何应对SSD硬盘UNC坏块可靠性问题?

2023-10-10 07:12

本文主要是介绍分布式存储系统如何应对SSD硬盘UNC坏块可靠性问题?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Uncorrectable Bit Errors(UNC),也有时候叫做Media Error(介质错误)是指在闪存设备中出现的无法修复的位错误。Media Error的产生意味着即使硬盘自身已经用尽了所有容错手段(如LDPC解码,retry等),该扇区(LBA)的数据已经无法被正确读出,这些错误是由于闪存单元的物理磨损或损坏所导致的,随着闪存设备使用时间的增长,出现UNC的可能性也逐渐增加。

对云数据中心和业务的影响主要体现在以下几个方面:

  1. 数据可靠性下降:UNC的出现意味着数据已经发生了永久性的损坏,无法被修复。这将对云数据中心的数据可靠性造成负面影响,可能导致数据丢失或损坏,进而影响业务的正常运行。
  2. 设备寿命缩短:随着UNC的出现,闪存设备的寿命也将逐渐缩短。这将增加云数据中心的运营成本,需要更频繁地更换设备,同时也可能导致设备供应短缺。
  3. 性能下降:闪存设备在出现UNC之前,往往会首先出现可纠正的位错误(CE)。随着CE数量的增加,设备需要进行更多的错误修复操作,这将消耗更多的资源并降低设备的性能。
  4. 安全风险增加:UNC的出现可能会导致数据被篡改或窃取,进而增加云数据中心的安全风险。如果UNC发生在关键的业务数据上,可能会对业务造成重大影响。

综上所述,Uncorrectable Bit Errors(UNC)对云数据中心和业务的影响非常大,需要采取有效的措施来预防和处理UNC的出现。

近日看到一篇关于Facebook工程师通过分布式系统优化降低UNC影响的论文,小编觉得挺好的,这里分享下这篇文章的核心思路,心急的朋友可以直接点击文章底部“阅读原文”直接获取论文pdf文档。

本文提出了一种解决闪存寿命问题的方案DIRECT(Distributed error Isolation and RECovery Techniques),通过采用更密集、可靠性更低的闪存存储技术,以允许设备以更高的位错误率运行。DIRECT使用端到端的方法,包括数据编码、解码和错误纠正等技术,以实现数据的持久性和可用性。

DIRECT策略是一种用于提高分布式存储系统可靠性的方法,其主要内容包括以下几个方面:

  1. 错误放大减少:DIRECT策略要求系统减少数据对象的错误放大,并修复远程副本中的损坏。错误放大是指当存储系统中发生错误时,这些错误会在数据读取和写入过程中被放大。通过减少错误放大,DIRECT可以减少数据的损坏,提高系统的可靠性。
  2. 本地元数据错误放大减少:DIRECT策略还要求系统减少本地元数据的错误放大。元数据是描述数据的数据,例如文件的名称、大小、创建时间等等。由于元数据在存储系统中的重要性,其错误放大会比数据错误放大更加严重。通过减少本地元数据的错误放大,DIRECT可以提高系统的可靠性。
  3. 安全恢复语义:DIRECT策略要求系统确保安全恢复语义。这意味着在发生故障时,系统能够恢复到一致的状态,而不会出现数据丢失或损坏的情况。通过确保安全恢复语义,DIRECT可以提高系统的可靠性

DIRECT策略是一种利用分布式级别冗余来提高闪存存储技术可靠性的策略。它通过使用端到端的方法来增加分布式存储系统的可靠性。在ZippyDB和HDFS两个真实的分布式存储系统中实施DIRECT策略

  1. 在ZippyDB中,DIRECT通过减少应用程序可见的错误率和恢复时间来提高可靠性。它能够将应用程序可见的错误率降低100倍以上,并将恢复时间缩短10000倍以上。这意味着,如果出现错误,DIRECT可以更快地将系统恢复到正常状态,从而减少了故障对应用程序的影响。

  1. 在HDFS中,DIRECT则允许系统容忍更高的位错误率,而不会出现应用程序可见的错误。具体来说,DIRECT可以使HDFS容忍比传统存储系统高10000到100000倍的位错误率。这意味着,使用DIRECT的HDFS可以在更恶劣的存储条件下运行,而不会影响到应用程序的正常运行。

从这篇论文的技术分享来看,分布式存储系统的软件强大,可以极大概率弥补硬件上的可靠性问题,减少对云存储系统的安全性。

这篇关于分布式存储系统如何应对SSD硬盘UNC坏块可靠性问题?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/178849

相关文章

Nginx分布式部署流程分析

《Nginx分布式部署流程分析》文章介绍Nginx在分布式部署中的反向代理和负载均衡作用,用于分发请求、减轻服务器压力及解决session共享问题,涵盖配置方法、策略及Java项目应用,并提及分布式事... 目录分布式部署NginxJava中的代理代理分为正向代理和反向代理正向代理反向代理Nginx应用场景

IDEA和GIT关于文件中LF和CRLF问题及解决

《IDEA和GIT关于文件中LF和CRLF问题及解决》文章总结:因IDEA默认使用CRLF换行符导致Shell脚本在Linux运行报错,需在编辑器和Git中统一为LF,通过调整Git的core.aut... 目录问题描述问题思考解决过程总结问题描述项目软件安装shell脚本上git仓库管理,但拉取后,上l

idea npm install很慢问题及解决(nodejs)

《ideanpminstall很慢问题及解决(nodejs)》npm安装速度慢可通过配置国内镜像源(如淘宝)、清理缓存及切换工具解决,建议设置全局镜像(npmconfigsetregistryht... 目录idea npm install很慢(nodejs)配置国内镜像源清理缓存总结idea npm in

pycharm跑python项目易出错的问题总结

《pycharm跑python项目易出错的问题总结》:本文主要介绍pycharm跑python项目易出错问题的相关资料,当你在PyCharm中运行Python程序时遇到报错,可以按照以下步骤进行排... 1. 一定不要在pycharm终端里面创建环境安装别人的项目子模块等,有可能出现的问题就是你不报错都安装

Java 线程池+分布式实现代码

《Java线程池+分布式实现代码》在Java开发中,池通过预先创建并管理一定数量的资源,避免频繁创建和销毁资源带来的性能开销,从而提高系统效率,:本文主要介绍Java线程池+分布式实现代码,需要... 目录1. 线程池1.1 自定义线程池实现1.1.1 线程池核心1.1.2 代码示例1.2 总结流程2. J

idea突然报错Malformed \uxxxx encoding问题及解决

《idea突然报错Malformeduxxxxencoding问题及解决》Maven项目在切换Git分支时报错,提示project元素为描述符根元素,解决方法:删除Maven仓库中的resolv... 目www.chinasem.cn录问题解决方式总结问题idea 上的 maven China编程项目突然报错,是

Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题

《Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题》在爬虫工程里,“HTTPS”是绕不开的话题,HTTPS为传输加密提供保护,同时也给爬虫带来证书校验、... 目录一、核心问题与优先级检查(先问三件事)二、基础示例:requests 与证书处理三、高并发选型:

前端导出Excel文件出现乱码或文件损坏问题的解决办法

《前端导出Excel文件出现乱码或文件损坏问题的解决办法》在现代网页应用程序中,前端有时需要与后端进行数据交互,包括下载文件,:本文主要介绍前端导出Excel文件出现乱码或文件损坏问题的解决办法,... 目录1. 检查后端返回的数据格式2. 前端正确处理二进制数据方案 1:直接下载(推荐)方案 2:手动构造

Python绘制TSP、VRP问题求解结果图全过程

《Python绘制TSP、VRP问题求解结果图全过程》本文介绍用Python绘制TSP和VRP问题的静态与动态结果图,静态图展示路径,动态图通过matplotlib.animation模块实现动画效果... 目录一、静态图二、动态图总结【代码】python绘制TSP、VRP问题求解结果图(包含静态图与动态图

MyBatis/MyBatis-Plus同事务循环调用存储过程获取主键重复问题分析及解决

《MyBatis/MyBatis-Plus同事务循环调用存储过程获取主键重复问题分析及解决》MyBatis默认开启一级缓存,同一事务中循环调用查询方法时会重复使用缓存数据,导致获取的序列主键值均为1,... 目录问题原因解决办法如果是存储过程总结问题myBATis有如下代码获取序列作为主键IdMappe