关于LinuxMelis Kernel Neon使用的一些总结

2024-04-26 03:08

本文主要是介绍关于LinuxMelis Kernel Neon使用的一些总结,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

单指令多数据(Single Instruction Multiple Data, SIMD)是一种使用一条指令就可以同时处理多个数据的技术,其实现原理是把要处理器的多个数据批量加载到位宽比较大的寄存器中,然后使用一条专用的指令对这些数据进行并行处理,如下图所示,SMD的应用场景包括科学计算,音视频编解码,图形处理,机器学习。

 

NEON的历史

ARM最初是在 armv6上引入SIMD技术的,那时SIMD指令只能对通用寄存器中的数据进行并行处理,而从ARMV7开始,新增了16个128位的向量寄存器,专门供SIMD指令使用。不在支持在通用寄存器上进行SIMD操作,为了与前一代SIMD区分,就称为ASIMD技术( Advance SIMD)技术,也就是NEON技术。

在ARMV8的AARCH64执行状态下对NEON做了进一步扩展,例如,将128 位的寄存器从16个增加到了32个,为了进一步提升计算性能和程序的可移植性,ARMV8.2中引入了可伸缩向量扩展技术(Scalable Vector Extension, SVE) 技术,不在约定向量寄存器的位宽,但是位宽必须是128 的整数倍,最多为2048位,通过SVE技术不用重新弄编译就可以让同一个可执行程序运行在不同向量位宽的CPU上,但是仅在AARCH64执行状态下才能用SVE指令。而在最新的ARMV9上又引入了SVE2技术,对SVE和NEON进行了扩展和增强。

问题描述

前些天在项目中遇到一个和neon使用有关的问题,做一下总结。

问题描述:Melis3.0方案跑在cortex-a7平台上,在用-mfpu=neon-vfpv4 --mfloat-abi=hard编译固件时,会概率性有系统死机或者数据不一致的情况出现。

问题分析:一开始别人跟我讲这个问题并没特别在意, 认为是个别模块的错误使用导致的,修复模块本身的bug就OK了,可是后面另一位同事报告他的模块又出现类似的问题,我逐渐开始怀疑和系统相关了。

问题规律: 问题多发生在读写内存前后,发现内存访问结束后,读回来和预期不一致的现象,用调试器查看,发现确实内存数据被改写,而且更诡异的,似乎这个问题可以和某些外设中断有关,中断来的越频繁,问题发生的概率越大。

问题根源:前面说到,方案是使能hard float的情况下编译的,所以GCC会在何时的时候将某些运算编译成neon指令去加速计算过程,根据arm eabi, 一个完整的链接单元必须保证各个模块用一致的浮点选项编译,否则可能会在链接阶段失败,最终造成的结果是固件中neon指令可能会出现在任何函数,我们知道,系统运行时是分上下文的,典型的就是任务上下文和中断上下文, 在melis里面,我有在任务切换到时候对neon单元进行上下文保存,但是却疏忽了中断上下文执行对应操作。在中断执行流中,中断处理函数会调用哪些函数,这些函数会不会使用neon指令进行加速完全是随机的,所以有可能会发生中断环境破坏了被中断的任务的NEON现场。

下面是网络找到一些说明:

找出问题的原因并没花太多时间,只是后来联想到,这个问题实际上和系统关联性不大,或者说,任何并发多任务OS上都不可避免要处理这个问题,那在这些系统上,比如Linux上是如何利用NEON的呢?

Linux简单粗暴的做法不禁让我大跌眼镜,在Linux里面,你是不能使用 --mfloat-abi=hard选项编译的,不但如此,还必须明确的告诉编译器,不能隐式的产生neon指令,方法是加入“-mfloat-abi=softfp”编译选项,指示编译器按照软浮点ABI编译,这样就完全杜绝了编译器意外产生neon指令(这里存疑,-mfloat-abi只控制软件调用的参数ABI)。

关于这一点,Linux内核有文档说明:/Documentation/arm/kernel_mode_neon.txt

至于为什么要用软浮点编译,文档也有说明,大概意思是说,即便只用-mfpu=neon选项,当优化等级调高的时候,编译器背后也会生成一些neon指令,为了杜绝这种情况,保证编译器在任何情况下都不自动产生neon指令,必须使用softfloat编译。

既然内核使用浮点编译选项, 那是如何使用neon的的?

原来,Linux是在层层保护的情况下使用neon的,要关抢占,防止任务调度出去,保存之前neon现场,并在使用完neon之后恢复, 不仅如此,使用neon的代码也不能靠编译器生成,所以当然也不能用c语言实现(因为前面说过,c代码都会按照软浮点编译), 最终只能通过汇编显示的调用neon指令实现。

具体点说,除了上面的编译要求必须满足外,使用neon指令的加速逻辑必须被 kernel_neon_begin / kernel_neon_end调用包裹。

kernel_neon_begin();

//ope

这篇关于关于LinuxMelis Kernel Neon使用的一些总结的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/936555

相关文章

Java中流式并行操作parallelStream的原理和使用方法

《Java中流式并行操作parallelStream的原理和使用方法》本文详细介绍了Java中的并行流(parallelStream)的原理、正确使用方法以及在实际业务中的应用案例,并指出在使用并行流... 目录Java中流式并行操作parallelStream0. 问题的产生1. 什么是parallelS

Linux join命令的使用及说明

《Linuxjoin命令的使用及说明》`join`命令用于在Linux中按字段将两个文件进行连接,类似于SQL的JOIN,它需要两个文件按用于匹配的字段排序,并且第一个文件的换行符必须是LF,`jo... 目录一. 基本语法二. 数据准备三. 指定文件的连接key四.-a输出指定文件的所有行五.-o指定输出

Linux jq命令的使用解读

《Linuxjq命令的使用解读》jq是一个强大的命令行工具,用于处理JSON数据,它可以用来查看、过滤、修改、格式化JSON数据,通过使用各种选项和过滤器,可以实现复杂的JSON处理任务... 目录一. 简介二. 选项2.1.2.2-c2.3-r2.4-R三. 字段提取3.1 普通字段3.2 数组字段四.

Linux kill正在执行的后台任务 kill进程组使用详解

《Linuxkill正在执行的后台任务kill进程组使用详解》文章介绍了两个脚本的功能和区别,以及执行这些脚本时遇到的进程管理问题,通过查看进程树、使用`kill`命令和`lsof`命令,分析了子... 目录零. 用到的命令一. 待执行的脚本二. 执行含子进程的脚本,并kill2.1 进程查看2.2 遇到的

详解SpringBoot+Ehcache使用示例

《详解SpringBoot+Ehcache使用示例》本文介绍了SpringBoot中配置Ehcache、自定义get/set方式,并实际使用缓存的过程,文中通过示例代码介绍的非常详细,对大家的学习或者... 目录摘要概念内存与磁盘持久化存储:配置灵活性:编码示例引入依赖:配置ehcache.XML文件:配置

Java 虚拟线程的创建与使用深度解析

《Java虚拟线程的创建与使用深度解析》虚拟线程是Java19中以预览特性形式引入,Java21起正式发布的轻量级线程,本文给大家介绍Java虚拟线程的创建与使用,感兴趣的朋友一起看看吧... 目录一、虚拟线程简介1.1 什么是虚拟线程?1.2 为什么需要虚拟线程?二、虚拟线程与平台线程对比代码对比示例:三

k8s按需创建PV和使用PVC详解

《k8s按需创建PV和使用PVC详解》Kubernetes中,PV和PVC用于管理持久存储,StorageClass实现动态PV分配,PVC声明存储需求并绑定PV,通过kubectl验证状态,注意回收... 目录1.按需创建 PV(使用 StorageClass)创建 StorageClass2.创建 PV

Python版本与package版本兼容性检查方法总结

《Python版本与package版本兼容性检查方法总结》:本文主要介绍Python版本与package版本兼容性检查方法的相关资料,文中提供四种检查方法,分别是pip查询、conda管理、PyP... 目录引言为什么会出现兼容性问题方法一:用 pip 官方命令查询可用版本方法二:conda 管理包环境方法

Redis 基本数据类型和使用详解

《Redis基本数据类型和使用详解》String是Redis最基本的数据类型,一个键对应一个值,它的功能十分强大,可以存储字符串、整数、浮点数等多种数据格式,本文给大家介绍Redis基本数据类型和... 目录一、Redis 入门介绍二、Redis 的五大基本数据类型2.1 String 类型2.2 Hash

Redis中Hash从使用过程到原理说明

《Redis中Hash从使用过程到原理说明》RedisHash结构用于存储字段-值对,适合对象数据,支持HSET、HGET等命令,采用ziplist或hashtable编码,通过渐进式rehash优化... 目录一、开篇:Hash就像超市的货架二、Hash的基本使用1. 常用命令示例2. Java操作示例三