浮点数精度丢失问题,为什么 (0.1+0.2)!=0.3

2024-01-27 22:20

本文主要是介绍浮点数精度丢失问题,为什么 (0.1+0.2)!=0.3,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

所有的编程语言中都存在浮点数精度丢失问题.

例如在 js php c语言中(所有的语言中都一样)

 (0.1+0.2)==0.3 返回 false

原因

参数的关键是是计算机为了方便电路运算采用iee754方案存储浮点数

例如 0.2 转换为科学计数为 2×10^-1 

存储在计算机中(分为三部分),下面数据中的所有数据 均需要把 10进制的科学计数转为 2进制科学计数

signexponent有效数字
正负符号指数有效数字

产生精度丢失的关键原因就是:

计算机为了方便电路计算,采用如下转换方式

十进制小数到二进制小数一般是整数部分除 2 取余,逆序排列,小数部分使用乘 2 取整数位,顺序排列。二进制小数到十进制小数还是使用按权相加法。

例如:

// 二进制到十进制
10.01 = 1 * 2^-2 + 0 * 2^-1 + 0 * 2^0 + 1 * 2^1 = 2.25// 十进制到二进制
// 整数部分
2 / 2 = 1 .... 0
1 / 2 = 0 .... 1
// 小数部分
0.25 * 2 = 0.5 得到整数 0 
0.5 * 2 = 1 得到整数 1 
// 结果 10.01

我们来看

2.1 转为为 二进制的过程

2.1 分成两部分
// 整数部分
2 / 2 = 1 .... 0
1 / 2 = 0 .... 1// 小数部分
0.1 * 2 = 0.2 得到整数 0
0.2 * 2 = 0.4 得到整数 0
0.4 * 2 = 0.8 得到整数 0
0.8 * 2 = 1.6 得到整数 1
0.6 * 2 = 1.2 得到整数 1
0.2 * 2 = 0.4 得到整数 0
0.4 * 2 = 0.8 得到整数 0
0.8 * 2 = 1.6 得到整数 1
0.6 * 2 = 1.2 得到整数 1
0.2 * 2 = 0.4 得到整数 0
0.4 * 2 = 0.8 得到整数 0
0.8 * 2 = 1.6 得到整数 1
0.6 * 2 = 1.2 得到整数 1
...

最终二进制就是 落入无限循环结果为 10.00011 0011 0011........ 
0.1的二进制就是 0.00011 0011 0011........ 

0.2转为为二进制过程

0.2
//整数部分0
小数部分
0.2 * 2 = 0.4 得到整数 0
0.4 * 2 = 0.8 得到整数 0
0.8 * 2 = 1.6 得到整数 1
0.6 * 2 = 1.2 得到整数 1
0.2 * 2 = 0.4 得到整数 0
...

结果为 0.0011 0011.... 循环

0.3
//整数部分0
小数部分
0.3 * 2 = 0.6 得到整数 0
0.6 * 2 = 1.2 得到整数 1
0.2 * 2 = 0.4 得到整数 0
0.4 * 2 = 0.8 得到整数 0
0.8 * 2 = 1.6 得到整数 1
0.6 * 2 = 1.2 得到整数 1
...

结果为 0.01 0011 0011... 循环

十进制二进制
0.10.00011 0011 0011........ 
0.20.0011 0011.... 
0.30.01 0011 0011... 

0.1 0.2 0.3转为二进制的时候都是 无限循环小数,而实际计算机存储的时候只能保存一定的小数位数(舍弃后面的,从而产生了精度丢失的问题)

这样就产生了 (0.1+0.2) != 0.3

解决方案

1.转为整数运算(根据需要的精度)

parseInt(0.1*10+0.2*10) === parseInt(0.3*10)

2.转为字符串,很多三方 大数运算库用的就是这个方案(性能差)

3.使用 BCD 码存储和运算二进制小数,bcd使用4位二进制表示一个十进制,运算方式同字符串一样 需要一位一位的取出来运算

这篇关于浮点数精度丢失问题,为什么 (0.1+0.2)!=0.3的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/651649

相关文章

IDEA下"File is read-only"可能原因分析及"找不到或无法加载主类"的问题

《IDEA下Fileisread-only可能原因分析及找不到或无法加载主类的问题》:本文主要介绍IDEA下Fileisread-only可能原因分析及找不到或无法加载主类的问题,具有很好的参... 目录1.File is read-only”可能原因2.“找不到或无法加载主类”问题的解决总结1.File

idea中project的显示问题及解决

《idea中project的显示问题及解决》:本文主要介绍idea中project的显示问题及解决方案,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录idea中project的显示问题清除配置重China编程新生成配置总结idea中project的显示问题新建空的pr

redis在spring boot中异常退出的问题解决方案

《redis在springboot中异常退出的问题解决方案》:本文主要介绍redis在springboot中异常退出的问题解决方案,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴... 目录问题:解决 问题根源️ 解决方案1. 异步处理 + 提前ACK(关键步骤)2. 调整Redis消费者组

电脑提示Winmm.dll缺失怎么办? Winmm.dll文件丢失的多种修复技巧

《电脑提示Winmm.dll缺失怎么办?Winmm.dll文件丢失的多种修复技巧》有时电脑会出现无法启动程序,因为计算机中丢失winmm.dll的情况,其实,winmm.dll丢失是一个比较常见的问... 在大部分情况下出现我们运行或安装软件,游戏出现提示丢失某些DLL文件或OCX文件的原因可能是原始安装包

无法启动此程序因为计算机丢失api-ms-win-core-path-l1-1-0.dll修复方案

《无法启动此程序因为计算机丢失api-ms-win-core-path-l1-1-0.dll修复方案》:本文主要介绍了无法启动此程序,详细内容请阅读本文,希望能对你有所帮助... 在计算机使用过程中,我们经常会遇到一些错误提示,其中之一就是"api-ms-win-core-path-l1-1-0.dll丢失

Ubuntu上手动安装Go环境并解决“可执行文件格式错误”问题

《Ubuntu上手动安装Go环境并解决“可执行文件格式错误”问题》:本文主要介绍Ubuntu上手动安装Go环境并解决“可执行文件格式错误”问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未... 目录一、前言二、系统架构检测三、卸载旧版 Go四、下载并安装正确版本五、配置环境变量六、验证安装七、常见

解决Java异常报错:java.nio.channels.UnresolvedAddressException问题

《解决Java异常报错:java.nio.channels.UnresolvedAddressException问题》:本文主要介绍解决Java异常报错:java.nio.channels.Unr... 目录异常含义可能出现的场景1. 错误的 IP 地址格式2. DNS 解析失败3. 未初始化的地址对象解决

springboot+vue项目怎么解决跨域问题详解

《springboot+vue项目怎么解决跨域问题详解》:本文主要介绍springboot+vue项目怎么解决跨域问题的相关资料,包括前端代理、后端全局配置CORS、注解配置和Nginx反向代理,... 目录1. 前端代理(开发环境推荐)2. 后端全局配置 CORS(生产环境推荐)3. 后端注解配置(按接口

使用雪花算法产生id导致前端精度缺失问题解决方案

《使用雪花算法产生id导致前端精度缺失问题解决方案》雪花算法由Twitter提出,设计目的是生成唯一的、递增的ID,下面:本文主要介绍使用雪花算法产生id导致前端精度缺失问题的解决方案,文中通过代... 目录一、问题根源二、解决方案1. 全局配置Jackson序列化规则2. 实体类必须使用Long封装类3.

Idea插件MybatisX失效的问题解决

《Idea插件MybatisX失效的问题解决》:本文主要介绍Idea插件MybatisX失效的问题解决,详细的介绍了4种问题的解决方法,具有一定的参考价值,感兴趣的可以了解一下... 目录一、重启idea或者卸载重装MyBATis插件(无需多言)二、检查.XML文件与.Java(该文件后缀Idea可能会隐藏