Linux- 由映射文件I/O问题引出的SIGBUS 空洞文件(Sparse File)

2023-10-27 04:01

本文主要是介绍Linux- 由映射文件I/O问题引出的SIGBUS 空洞文件(Sparse File),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

SIGBUS

SIGBUS是一个在Unix-like操作系统中的信号,它通常表示非法访问内存,而这种非法访问的原因与常见的SIGSEGV(段错误)有所不同。以下是可能导致SIGBUS的常见情况:

  1. 未对齐的内存访问:某些硬件平台要求数据(如整数或浮点数)在内存中以特定的地址对齐(如2或4的倍数)。如果程序试图在这些平台上访问未对齐的数据,就可能收到SIGBUS

  2. 映射文件I/O问题:使用mmap()系统调用映射文件到内存并尝试访问文件后面的内容可能会产生SIGBUS。例如,如果文件在被映射后被截断,那么当程序尝试访问被截断部分的数据时,就会得到SIGBUS

  3. 硬件故障:虽然不常见,但内存损坏或其他硬件问题有时可能导致SIGBUS

  4. 堆栈溢出:在某些系统上,尝试超出预分配的堆栈空间可能会导致SIGBUS,而不是更常见的SIGSEGV

  5. 访问不存在的内存页:如果程序尝试访问一个标记为不存在的内存页,那么可能会得到SIGBUS

应对SIGBUS的策略与处理其他运行时错误类似,需要检查代码以找出可能的问题,并使用调试工具帮助诊断。


映射文件I/O问题

当使用 mmap() 系统调用将文件映射到进程的内存地址空间时,基本上是在告诉操作系统:“请将这个文件的内容让我像内存一样直接访问它。” 实际的文件内容并不会立即加载到物理内存中;相反,操作系统会设置页面表条目以反映文件的内容,然后只在实际访问这些地址时才从磁盘加载内容。这被称为按需分页(demand paging)。

考虑以下场景:

  1. 使用 mmap() 映射了一个文件,长度为100字节。
  2. 接着,另一个进程(或可能是同一个进程的另一个部分)截断该文件,使其长度变为50字节。
  3. 现在,我们的进程尝试访问映射中的第60字节。

由于该字节已经不再文件中,操作系统不知道应该返回什么。这时,它会发送 SIGBUS 信号给进程。这样,进程就知道它试图访问的数据不再存在。

为什么不使用 SIGSEGV(通常用于无效的内存访问)呢?因为这不是一个真正的段错误。地址本身是有效的,但由于文件被截断,该地址不再反映任何文件内容。为了区分这两种情况,操作系统选择发送 SIGBUS

如何处理这种情况?通常,我们需要确保在使用 mmap() 映射的文件不会在需要它时被其他进程或线程截断。如果这种情况可能发生,我们的程序需要能够适当地处理 SIGBUS,或者至少在这种情况下能够优雅地失败。

在UNIX和类UNIX系统上,ftruncate() 函数经常与文件系统上的"空洞"(holes)相关联。下面,我们来详细了解一下。


空洞文件(Sparse File)

空洞文件(sparse file)是一个文件,其中有些部分没有分配存储空间,通常这些部分的内容都被视为零。这些未分配空间的部分就是所谓的“空洞”。这意味着,如果我们有一个大部分由零组成的非常大的文件,只为其中的非零部分分配磁盘空间,而为零部分不分配,那么该文件在磁盘上实际占用的空间会小于其表面大小。文件系统知道这些“空洞”并会在需要时适当地处理它们。

使用ftruncate()创建空洞文件:

ftruncate() 函数可以调整已打开文件的大小。如果我们使用 ftruncate() 将文件扩展到比其当前大小更大的大小,新添加的部分不会有实际磁盘空间与之关联,从而形成一个空洞。

例如,考虑以下的程序段:

int fd = open("sparsefile", O_RDWR | O_CREAT, 0666);
ftruncate(fd, 1024 * 1024); // 将文件大小设置为1MB
close(fd);

在上面的代码执行后,sparsefile 的大小会报告为1MB,但它在磁盘上可能实际上占用的空间远远小于这个数值,因为文件中的内容全都是未初始化的,并被视为零。这样,文件系统就为我们创建了一个空洞文件。

为什么要使用空洞文件?

  1. 节省空间:特别是在处理大量包含零的数据时,使用空洞文件可以节省大量磁盘空间。

  2. 快速文件创建:如果我们知道将创建一个非常大的文件,但一开始只需要使用其中的一小部分,使用空洞文件可以避免预先分配大量不必要的磁盘空间。

需要注意的是,不是所有的文件系统都支持空洞文件,但许多现代文件系统(如ext3、ext4和xfs)都支持。

这篇关于Linux- 由映射文件I/O问题引出的SIGBUS 空洞文件(Sparse File)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/285921

相关文章

解决IDEA报错:编码GBK的不可映射字符问题

《解决IDEA报错:编码GBK的不可映射字符问题》:本文主要介绍解决IDEA报错:编码GBK的不可映射字符问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录IDEA报错:编码GBK的不可映射字符终端软件问题描述原因分析解决方案方法1:将命令改为方法2:右下jav

Linux之systemV共享内存方式

《Linux之systemV共享内存方式》:本文主要介绍Linux之systemV共享内存方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、工作原理二、系统调用接口1、申请共享内存(一)key的获取(二)共享内存的申请2、将共享内存段连接到进程地址空间3、将

MyBatis模糊查询报错:ParserException: not supported.pos 问题解决

《MyBatis模糊查询报错:ParserException:notsupported.pos问题解决》本文主要介绍了MyBatis模糊查询报错:ParserException:notsuppo... 目录问题描述问题根源错误SQL解析逻辑深层原因分析三种解决方案方案一:使用CONCAT函数(推荐)方案二:

Redis 热 key 和大 key 问题小结

《Redis热key和大key问题小结》:本文主要介绍Redis热key和大key问题小结,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、什么是 Redis 热 key?热 key(Hot Key)定义: 热 key 常见表现:热 key 的风险:二、

IntelliJ IDEA 中配置 Spring MVC 环境的详细步骤及问题解决

《IntelliJIDEA中配置SpringMVC环境的详细步骤及问题解决》:本文主要介绍IntelliJIDEA中配置SpringMVC环境的详细步骤及问题解决,本文分步骤结合实例给大... 目录步骤 1:创建 Maven Web 项目步骤 2:添加 Spring MVC 依赖1、保存后执行2、将新的依赖

快速修复一个Panic的Linux内核的技巧

《快速修复一个Panic的Linux内核的技巧》Linux系统中运行了不当的mkinitcpio操作导致内核文件不能正常工作,重启的时候,内核启动中止于Panic状态,该怎么解决这个问题呢?下面我们就... 感谢China编程(www.chinasem.cn)网友 鸢一雨音 的投稿写这篇文章是有原因的。为了配置完

Spring 中的循环引用问题解决方法

《Spring中的循环引用问题解决方法》:本文主要介绍Spring中的循环引用问题解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录什么是循环引用?循环依赖三级缓存解决循环依赖二级缓存三级缓存本章来聊聊Spring 中的循环引用问题该如何解决。这里聊

Spring Boot中JSON数值溢出问题从报错到优雅解决办法

《SpringBoot中JSON数值溢出问题从报错到优雅解决办法》:本文主要介绍SpringBoot中JSON数值溢出问题从报错到优雅的解决办法,通过修改字段类型为Long、添加全局异常处理和... 目录一、问题背景:为什么我的接口突然报错了?二、为什么会发生这个错误?1. Java 数据类型的“容量”限制

关于MongoDB图片URL存储异常问题以及解决

《关于MongoDB图片URL存储异常问题以及解决》:本文主要介绍关于MongoDB图片URL存储异常问题以及解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录MongoDB图片URL存储异常问题项目场景问题描述原因分析解决方案预防措施js总结MongoDB图

SpringBoot项目中报错The field screenShot exceeds its maximum permitted size of 1048576 bytes.的问题及解决

《SpringBoot项目中报错ThefieldscreenShotexceedsitsmaximumpermittedsizeof1048576bytes.的问题及解决》这篇文章... 目录项目场景问题描述原因分析解决方案总结项目场景javascript提示:项目相关背景:项目场景:基于Spring