前端计算精度丢失问题

2024-01-10 21:20

本文主要是介绍前端计算精度丢失问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

// 精度丢失异常数据汇总
10.3950 * 3935.00 = 期望40904.33, 异常结果40904.32
7.3950 * 3835.00 = 期望28359.83, 异常结果28359.82
11.777 * 4215 = 期望49640.06, 异常结果49640.05
12.445 * 4005 = 期望49842.23,异常结果49842.22
3721*17.0480 = 期望63435.61,异常结果63435.60
3621*5.0060 = 期望18126.73,异常结果18126.72

vue项目中直接装插件

npm install bignumber.js
import { BigNumber } from 'bignumber.js';
// +
export function add(a, b) {a = BigNumber(a);b = BigNumber(b);return a.plus(b).toNumber();   //结果需要用toNumber转为普通数字
}
// -
export function minus(a, b) {a = BigNumber(a);b = BigNumber(b);return a.minus(b).toNumber();
}
// *
export function mut(a, b) {a = BigNumber(a);b = BigNumber(b);return a.multipliedBy(b).toNumber();
}
// /
export function dev(a, b) {a = BigNumber(a);b = BigNumber(b);return a.dividedBy(b).toNumber();
}

界面中使用:

import {add,minus,mut,dev
} from '@/utils/common.js' //公共方法row.amountStr = (this.mut(Number(row.salePriceStr), Number(row.weightStr))).toFixed(2)

toFixed也有精度丢失问题,直接main.js中改写toFixed方法

Number.prototype.toFixed = function(d) {var s = this + ''if (!d) d = 0if (s.indexOf('.') === -1) s += '.'s += new Array(d + 1).join('0')if (new RegExp('^(-|\\+)?(\\d+(\\.\\d{0,' + (d + 1) + '})?)\\d*$').test(s)) {let s = '0' + RegExp.$2; var pm = RegExp.$1; var a = RegExp.$3.length; var b = trueif (a === d + 2) {a = s.match(/\d/g)if (parseInt(a[a.length - 1]) > 4) {for (var i = a.length - 2; i >= 0; i--) {a[i] = parseInt(a[i]) + 1if (a[i] === 10) {a[i] = 0b = i !== 1} else break}}s = a.join('').replace(new RegExp('(\\d+)(\\d{' + d + '})\\d$'), '$1.$2')}if (b) s = s.substr(1)return (pm + s).replace(/\.$/, '')}return this + ''
}

如果vue3中遇到精度丢失问题,可以创建一个fixed.js文件

// // js
if (!Number.prototype._toFixed) {// eslint-disable-next-line no-extend-nativeNumber.prototype._toFixed = Number.prototype.toFixed
}
// eslint-disable-next-line no-extend-native
Number.prototype.toFixed = function (d) {let s = this + ''if (!d) {d = 0}if (s.indexOf('.') === -1) {s += '.'}s += new Array(d + 1).join('0')if (new RegExp('^(-|\\+)?(\\d+(\\.\\d{0,' + (d + 1) + '})?)\\d*$').test(s)) {let s = '0' + RegExp.$2let pm = RegExp.$1let a = RegExp.$3.lengthlet b = trueif (a === d + 2) {a = s.match(/\d/g)if (parseInt(a[a.length - 1]) > 4) {for (let i = a.length - 2; i >= 0; i--) {a[i] = parseInt(a[i]) + 1if (a[i] === 10) {a[i] = 0b = i !== 1} else {break}}}s = a.join('').replace(new RegExp('(\\d+)(\\d{' + d + '})\\d$'), '$1.$2')}if (b) {s = s.substr(1)}return (pm + s).replace(/\.$/, '')}return this + ''
}

然后再main.ts文件中引入即可

import '@/utils/fixed'

方式二: 封装js方法

// 乘法
function highPrecisionMul(data1, data2) {let m = 0;const s1 = data1.toString();const s2 = data2.toString();// 获取所有参数小数位长度之和try {m += s1.split(".")[1].length;} catch (e) { e => e }try {m += s2.split(".")[1].length;} catch (e) { e => e }// 替换掉小数点转为数字相乘再除以10的次幂值return ((Number(s1.replace(".", "")) * Number(s2.replace(".", ""))) /Math.pow(10, m));
};// 加法function highPrecisionAdd(data1, data2) {let r1, r2;// 获取每个参数的小数的位数try {r1 = data1.toString().split(".")[1].length;} catch (e) {r1 = 0;}try {r2 = data2.toString().split(".")[1].length;} catch (e) {r2 = 0;}// 计算底数为10以最大小数位数为次幂的值const m = Math.pow(10, Math.max(r1, r2));// 把所有参数转为整数后相加再除以次幂的值return (data1 * m + data2 * m) / m;
};// toFixed精度问题  重写function toSuperFixed(n, d) {var s = n + "";if (!d) d = 0;if (s.indexOf(".") === -1) s += ".";s += new Array(d + 1).join("0");if (new RegExp("^(-|\\+)?(\\d+(\\.\\d{0," + (d + 1) + "})?)\\d*$").test(s)) {let s = "0" + RegExp.$2; var pm = RegExp.$1; var a = RegExp.$3.length; var b = true;if (a === d + 2) {a = s.match(/\d/g);if (parseInt(a[a.length - 1]) > 4) {for (var i = a.length - 2; i >= 0; i--) {a[i] = parseInt(a[i]) + 1;if (a[i] === 10) {a[i] = 0;b = i !== 1;} else break;}}s = a.join("").replace(new RegExp("(\\d+)(\\d{" + d + "})\\d$"), "$1.$2");}if (b) s = s.substr(1);return (pm + s).replace(/\.$/, "");}return this + "";
}

使用:

this.toSuperFixed(this.highPrecisionMul(Number(row.priceStr), Number(row.weightStr)), 2)

这篇关于前端计算精度丢失问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/592116

相关文章

线上Java OOM问题定位与解决方案超详细解析

《线上JavaOOM问题定位与解决方案超详细解析》OOM是JVM抛出的错误,表示内存分配失败,:本文主要介绍线上JavaOOM问题定位与解决方案的相关资料,文中通过代码介绍的非常详细,需要的朋... 目录一、OOM问题核心认知1.1 OOM定义与技术定位1.2 OOM常见类型及技术特征二、OOM问题定位工具

Vue和React受控组件的区别小结

《Vue和React受控组件的区别小结》本文主要介绍了Vue和React受控组件的区别小结,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录背景React 的实现vue3 的实现写法一:直接修改事件参数写法二:通过ref引用 DOMVu

Java实现将HTML文件与字符串转换为图片

《Java实现将HTML文件与字符串转换为图片》在Java开发中,我们经常会遇到将HTML内容转换为图片的需求,本文小编就来和大家详细讲讲如何使用FreeSpire.DocforJava库来实现这一功... 目录前言核心实现:html 转图片完整代码场景 1:转换本地 HTML 文件为图片场景 2:转换 H

C#使用Spire.Doc for .NET实现HTML转Word的高效方案

《C#使用Spire.Docfor.NET实现HTML转Word的高效方案》在Web开发中,HTML内容的生成与处理是高频需求,然而,当用户需要将HTML页面或动态生成的HTML字符串转换为Wor... 目录引言一、html转Word的典型场景与挑战二、用 Spire.Doc 实现 HTML 转 Word1

Vue3绑定props默认值问题

《Vue3绑定props默认值问题》使用Vue3的defineProps配合TypeScript的interface定义props类型,并通过withDefaults设置默认值,使组件能安全访问传入的... 目录前言步骤步骤1:使用 defineProps 定义 Props步骤2:设置默认值总结前言使用T

Web服务器-Nginx-高并发问题

《Web服务器-Nginx-高并发问题》Nginx通过事件驱动、I/O多路复用和异步非阻塞技术高效处理高并发,结合动静分离和限流策略,提升性能与稳定性... 目录前言一、架构1. 原生多进程架构2. 事件驱动模型3. IO多路复用4. 异步非阻塞 I/O5. Nginx高并发配置实战二、动静分离1. 职责2

解决升级JDK报错:module java.base does not“opens java.lang.reflect“to unnamed module问题

《解决升级JDK报错:modulejava.basedoesnot“opensjava.lang.reflect“tounnamedmodule问题》SpringBoot启动错误源于Jav... 目录问题描述原因分析解决方案总结问题描述启动sprintboot时报以下错误原因分析编程异js常是由Ja

MySQL 表空却 ibd 文件过大的问题及解决方法

《MySQL表空却ibd文件过大的问题及解决方法》本文给大家介绍MySQL表空却ibd文件过大的问题及解决方法,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录一、问题背景:表空却 “吃满” 磁盘的怪事二、问题复现:一步步编程还原异常场景1. 准备测试源表与数据

解决Nginx启动报错Job for nginx.service failed because the control process exited with error code问题

《解决Nginx启动报错Jobfornginx.servicefailedbecausethecontrolprocessexitedwitherrorcode问题》Nginx启... 目录一、报错如下二、解决原因三、解决方式总结一、报错如下Job for nginx.service failed bec

SysMain服务可以关吗? 解决SysMain服务导致的高CPU使用率问题

《SysMain服务可以关吗?解决SysMain服务导致的高CPU使用率问题》SysMain服务是超级预读取,该服务会记录您打开应用程序的模式,并预先将它们加载到内存中以节省时间,但它可能占用大量... 在使用电脑的过程中,CPU使用率居高不下是许多用户都遇到过的问题,其中名为SysMain的服务往往是罪魁