Java浮点数计算精确度问题

2024-05-08 14:38

本文主要是介绍Java浮点数计算精确度问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

在Java中如果使用浮点型小数进行计算,尤其是商业计算将会出现奇怪的结果。比如下面的程序:

System.out.println(30.29 - 1.01);

我们期望它输出的结果是29.28,但是实际结果确是:29.279999999999998。
首先解释下为什么,为什么整数的时候不会呢,只有浮点数float,double才会呢,而且有的时候会,有的时候不会?
比如下面的程序:

System.out.println(30.25 - 1.125);

我们期望它输出的结果是29.125,实际结果也是:29.125。

这是为什么呢?

原因是因为在二进制中无法精确的表示十进制的小数,比如我们可以精确的表示0.25,0.125。但是无法精确的表示0.2.这也解释了为什么有些浮点数相减不会出现精确度的问题,而有些会。其根本原因就是二进制无法精确的表示所有的十进制小数部分。

关于浮点数为什么不精确,可以参考这篇文章:
http://www.th7.cn/Program/java/201606/873809.shtml

还好,Java为我们提供了用于商业计算且能够保留精确度的BigDecimal.
但是一定要注意在将浮点数转化为BigDecimal时,传入的构造参数一定要是String类型的,否则计算结果也是会出现精确度问题

  double d1 = 30.29;double d2 = 1.01;System.out.println(new BigDecimal(d1));System.out.println(new BigDecimal(d2));System.out.println(new BigDecimal(d1).subtract(new BigDecimal(d2)));

上面代码的输出结果如下:
这里写图片描述

所以一定不要以为使用BigDecimal计算的结果就是精确的。出现上面的结果是因为在构造BigDecimal时传入的是double,这样构造出来的BigDecimal已经不是我们预期 结果了。

所以千万记得,浮点数计算时,构造BigDecimal时一定要传入String参数,而不能是浮点数。

  double d1 = 30.29;double d2 = 1.01;System.out.println(a3);System.out.println(a4);System.out.println(a3.subtract(a4));

上面的代码输出的结果,与预期一致
这里写图片描述

另外BigDecimal还提供了加减乘除的运算,并且提供了四舍五入的方法。DecimalFormat 可以用于格式化数据。

public class TestBigDecimal {public static void main(String[] args) {//  Double.toString()  可以将double类型转化为StringSystem.out.println(new BigDecimal("0.06"));BigDecimal a1 = new BigDecimal("123.2562");BigDecimal a2 = new BigDecimal("0.75");System.out.println(a1.scale());//除System.out.println(a1.divide(a2, 2));//加System.out.println(a1.add(a2));//乘System.out.println(a1.multiply(a2));//减System.out.println(a1.subtract(a2));System.out.println(new BigDecimal("2.3").setScale(2));//只入不舍System.out.println("只入不舍" + a1.setScale(2, RoundingMode.UP));//只舍不入System.out.println("只舍不入" + a1.setScale(2, RoundingMode.DOWN));//四舍五入System.out.println("四舍五入" + a1.setScale(2, RoundingMode.HALF_UP));String number = "89" + "";DecimalFormat df2 = (DecimalFormat) DecimalFormat.getInstance();//强制保留两位小数,不足的补0df2.applyPattern("0.00");System.out.println(df2.format(Double.parseDouble(number)));double d1 = 30.29;double d2 = 1.01;System.out.println(new BigDecimal(d1));System.out.println(new BigDecimal(d2));System.out.println(new BigDecimal(d1).subtract(new BigDecimal(d2)));BigDecimal a3 = new BigDecimal(d1 + "");BigDecimal a4 = new BigDecimal(d2 + "");System.out.println(a3);System.out.println(a4);System.out.println(a3.subtract(a4));System.out.println(30.29 - 1.01);System.out.println(d1 - d2);}
}

这篇关于Java浮点数计算精确度问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/970604

相关文章

springboot集成easypoi导出word换行处理过程

《springboot集成easypoi导出word换行处理过程》SpringBoot集成Easypoi导出Word时,换行符n失效显示为空格,解决方法包括生成段落或替换模板中n为回车,同时需确... 目录项目场景问题描述解决方案第一种:生成段落的方式第二种:替换模板的情况,换行符替换成回车总结项目场景s

SpringBoot集成redisson实现延时队列教程

《SpringBoot集成redisson实现延时队列教程》文章介绍了使用Redisson实现延迟队列的完整步骤,包括依赖导入、Redis配置、工具类封装、业务枚举定义、执行器实现、Bean创建、消费... 目录1、先给项目导入Redisson依赖2、配置redis3、创建 RedissonConfig 配

SpringBoot中@Value注入静态变量方式

《SpringBoot中@Value注入静态变量方式》SpringBoot中静态变量无法直接用@Value注入,需通过setter方法,@Value(${})从属性文件获取值,@Value(#{})用... 目录项目场景解决方案注解说明1、@Value("${}")使用示例2、@Value("#{}"php

SpringBoot分段处理List集合多线程批量插入数据方式

《SpringBoot分段处理List集合多线程批量插入数据方式》文章介绍如何处理大数据量List批量插入数据库的优化方案:通过拆分List并分配独立线程处理,结合Spring线程池与异步方法提升效率... 目录项目场景解决方案1.实体类2.Mapper3.spring容器注入线程池bejsan对象4.创建

线上Java OOM问题定位与解决方案超详细解析

《线上JavaOOM问题定位与解决方案超详细解析》OOM是JVM抛出的错误,表示内存分配失败,:本文主要介绍线上JavaOOM问题定位与解决方案的相关资料,文中通过代码介绍的非常详细,需要的朋... 目录一、OOM问题核心认知1.1 OOM定义与技术定位1.2 OOM常见类型及技术特征二、OOM问题定位工具

基于 Cursor 开发 Spring Boot 项目详细攻略

《基于Cursor开发SpringBoot项目详细攻略》Cursor是集成GPT4、Claude3.5等LLM的VSCode类AI编程工具,支持SpringBoot项目开发全流程,涵盖环境配... 目录cursor是什么?基于 Cursor 开发 Spring Boot 项目完整指南1. 环境准备2. 创建

Spring Security简介、使用与最佳实践

《SpringSecurity简介、使用与最佳实践》SpringSecurity是一个能够为基于Spring的企业应用系统提供声明式的安全访问控制解决方案的安全框架,本文给大家介绍SpringSec... 目录一、如何理解 Spring Security?—— 核心思想二、如何在 Java 项目中使用?——

SpringBoot+RustFS 实现文件切片极速上传的实例代码

《SpringBoot+RustFS实现文件切片极速上传的实例代码》本文介绍利用SpringBoot和RustFS构建高性能文件切片上传系统,实现大文件秒传、断点续传和分片上传等功能,具有一定的参考... 目录一、为什么选择 RustFS + SpringBoot?二、环境准备与部署2.1 安装 RustF

springboot中使用okhttp3的小结

《springboot中使用okhttp3的小结》OkHttp3是一个JavaHTTP客户端,可以处理各种请求类型,比如GET、POST、PUT等,并且支持高效的HTTP连接池、请求和响应缓存、以及异... 在 Spring Boot 项目中使用 OkHttp3 进行 HTTP 请求是一个高效且流行的方式。

java.sql.SQLTransientConnectionException连接超时异常原因及解决方案

《java.sql.SQLTransientConnectionException连接超时异常原因及解决方案》:本文主要介绍java.sql.SQLTransientConnectionExcep... 目录一、引言二、异常信息分析三、可能的原因3.1 连接池配置不合理3.2 数据库负载过高3.3 连接泄漏