首页
Python
Java
前端
数据库
Linux
Chatgpt专题
开发者工具箱
22alp专题
2023.11.22ALP
这种压缩方式,就是一位记录小数点后的有效数字位数,一位记录所有的数据 然后复原就是 但会存在误差,因为最后解压缩的时候用到了乘法,但是10不是二进制能精确表示的,所以乘以10就会产生误差 e是什么? IEEE 754 舍入误差和精度损失 舍入误差(Rounding Error):由于计算机中使用有限的比特数来表示浮点数,而实数是无限精度的,因此在将实数近似表示
阅读更多...