java程序中经常会遇到使用double类型来进行运算,今天遇一个非常简单地计算,计算结果居然是不对0,查了一些前辈们的资料动手实验了一下,实验结果和代码分享给大家。需要计算的公式:(7/10)*0.8 结果居然不是0.56 而是 0
最后找到原因(7/10)*0.8 这个公式中 问题出在7/10 两个整数相除,结果只取整数部分所以 7.10的结果是0 所以导致整个计算结果不对。实验结果中还可以看到double类型的精度丢失问题,这个不在这里讨论,百度一下就知道原因了。
代码如下:
public static void main(String[] args) { System.out.println("问题:"+(7/10)*0.8); double money = (7/10)*0.8; System.out.println("精度缺失1:"+money); double money1 = 0.7*0.8; System.out.println("精度缺失2:"+money1); double temp = 7; double money2 = (temp/10)*0.8; System.out.println("精度缺失3:"+money2); double temp1 = 10; double money3 = (7/temp1)*0.8; System.out.println("精度缺失3:"+money3); //两个整数相除 System.out.println("关键的问题1:"+7/10); //两个整数相除 System.out.println("关键的问题2:"+19/10); //两个整数相除 System.out.println("关键的问题3:"+12/10); }
输出的结果如下:
问题:0.0
精度缺失1:0.0
精度缺失2:0.5599999999999999
精度缺失3:0.5599999999999999
精度缺失3:0.5599999999999999
关键的问题1:0
关键的问题2:1
关键的问题3:1