网站建设流程知乎,关键词数据分析工具有哪些,郑州短视频推广,网站建设攸县先看现象涉及诸如float或者double这两种浮点型数据的处理时#xff0c;偶尔总会有一些怪怪的现象#xff0c;不知道大家注意过没#xff0c;举几个常见的栗子#xff1a;典型现象#xff08;一#xff09;#xff1a;条件判断超预期System.out.println( 1f 0.9999999f … 先看现象涉及诸如float或者double这两种浮点型数据的处理时偶尔总会有一些怪怪的现象不知道大家注意过没举几个常见的栗子典型现象一条件判断超预期System.out.println( 1f 0.9999999f ); // 打印false
System.out.println( 1f 0.99999999f ); // 打印true 纳尼
典型现象二数据转换超预期float f 1.1f;
double d (double) f;
System.out.println(f); // 打印1.1
System.out.println(d); // 打印1.100000023841858 纳尼
典型现象三基本运算超预期System.out.println( 0.2 0.7 ); // 打印0.8999999999999999 纳尼
典型现象四数据自增超预期float f1 8455263f;
for (int i 0; i 10; i) {System.out.println(f1);f1;
}
// 打印8455263.0
// 打印8455264.0
// 打印8455265.0
// 打印8455266.0
// 打印8455267.0
// 打印8455268.0
// 打印8455269.0
// 打印8455270.0
// 打印8455271.0
// 打印8455272.0float f2 84552631f;
for (int i 0; i 10; i) {System.out.println(f2);f2;
}
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
// 打印8.4552632E7 纳尼不是 1了吗
看到没这些简单场景下的使用情况都很难满足我们的需求所以说用浮点数包括double和float处理问题有非常多隐晦的坑在等着咱们怪不得技术总监发狠话谁要是敢在处理诸如 商品金额、订单交易、以及货币计算时用浮点型数据double/float直接让我们走人原因出在哪里我们就以第一个典型现象为例来分析一下System.out.println( 1f 0.99999999f );
直接用代码去比较1和0.99999999居然打印出true这说明了什么这说明了计算机压根区分不出来这两个数。这是为什么呢我们不妨来简单思考一下我们知道输入的这两个浮点数只是我们人类肉眼所看到的具体数值是我们通常所理解的十进制数但是计算机底层在计算时可不是按照十进制来计算的学过基本计组原理的都知道计算机底层最终都是基于像010100100100110011011这种0、1二进制来完成的。所以为了搞懂实际情况我们应该将这两个十进制浮点数转化到二进制空间来看一看。十进制浮点数转二进制 怎么转、怎么计算我想这应该属于基础计算机进制转换常识在 《计算机组成原理》 类似的课上肯定学过了咱就不在此赘述了直接给出结果把它转换到IEEE 754 Single precision 32-bit也就float类型对应的精度1.0十进制↓
00111111 10000000 00000000 00000000二进制↓
0x3F800000十六进制
0.99999999十进制↓
00111111 10000000 00000000 00000000二进制↓
0x3F800000十六进制
果不其然这两个十进制浮点数的底层二进制表示是一毛一样的怪不得的判断结果返回true但是1f 0.9999999f返回的结果是符合预期的打印false我们也把它们转换到二进制模式下看看情况1.0十进制↓
00111111 10000000 00000000 00000000二进制↓
0x3F800000十六进制
0.9999999十进制↓
00111111 01111111 11111111 11111110二进制↓
0x3F7FFFFE十六进制
哦很明显它俩的二进制数字表示确实不一样这是理所应当的结果。那么为什么0.99999999的底层二进制表示竟然是00111111 10000000 00000000 00000000呢这不明明是浮点数1.0的二进制表示吗这就要谈一下浮点数的精度问题了。浮点数的精度问题学过 《计算机组成原理》 这门课的小伙伴应该都知道浮点数在计算机中的存储方式遵循IEEE 754 浮点数计数标准可以用科学计数法表示为只要给出符号S、阶码部分E、尾数部分M 这三个维度的信息一个浮点数的表示就完全确定下来了所以float和double这两种浮点数在内存中的存储结构如下所示1、符号部分S0-正 1-负2、阶码部分E指数部分对于float型浮点数指数部分8位考虑可正可负因此可以表示的指数范围为-127 ~ 128对于double型浮点数指数部分11位考虑可正可负因此可以表示的指数范围为-1023 ~ 10243、尾数部分M浮点数的精度是由尾数的位数来决定的对于float型浮点数尾数部分23位换算成十进制就是 2^238388608所以十进制精度只有6 ~ 7位对于double型浮点数尾数部分52位换算成十进制就是 2^52 4503599627370496所以十进制精度只有15 ~ 16位所以对于上面的数值0.99999999f很明显已经超过了float型浮点数据的精度范围出问题也是在所难免的。精度问题如何解决所以如果涉及商品金额、交易值、货币计算等这种对精度要求很高的场景该怎么办呢方法一用字符串或者数组解决多位数问题校招刷过算法题的小伙伴们应该都知道用字符串或者数组表示大数是一个典型的解题思路。比如经典面试题编写两个任意位数大数的加法、减法、乘法等运算。这时候我们我们可以用字符串或者数组来表示这种大数然后按照四则运算的规则来手动模拟出具体计算过程中间还需要考虑各种诸如进位、借位、符号等等问题的处理确实十分复杂本文不做赘述。方法二Java的大数类是个好东西JDK早已为我们考虑到了浮点数的计算精度问题因此提供了专用于高精度数值计算的大数类来方便我们使用。在前文《不瞒你说我最近跟Java源码杠上了》中说过Java的大数类位于java.math包下可以看到常用的BigInteger 和 BigDecimal就是处理高精度数值计算的利器。BigDecimal num3 new BigDecimal( Double.toString( 1.0f ) );
BigDecimal num4 new BigDecimal( Double.toString( 0.99999999f ) );
System.out.println( num3 num4 ); // 打印 falseBigDecimal num1 new BigDecimal( Double.toString( 0.2 ) );
BigDecimal num2 new BigDecimal( Double.toString( 0.7 ) );// 加
System.out.println( num1.add( num2 ) ); // 打印0.9// 减
System.out.println( num2.subtract( num1 ) ); // 打印0.5// 乘
System.out.println( num1.multiply( num2 ) ); // 打印0.14// 除
System.out.println( num2.divide( num1 ) ); // 打印3.5
当然了像BigInteger 和 BigDecimal这种大数类的运算效率肯定是不如原生类型效率高代价还是比较昂贵的是否选用需要根据实际场景来评估。END史上最全的延迟任务实现方式汇总附代码强烈推荐除了负载均衡Nginx 还能干啥震惊这样终止线程竟然会导致服务宕机关注公众号发送”进群“老王拉你进读者群。
