这两天,不断的有人问我java中数值计算的精度问题,以前在项目中碰到过,吃了不少苦头,但一直也没管它,现在先小结一下,以后再慢慢补充吧,否则,过段时间又忘了。
java中的基本类型float有着很严重的精度缺失问题,这个我主要是通过java.math.BigDecimal来弥补,但BigDecimal毕竟是一个类,有着对象的创建销毁等繁琐的事情,况且java中类本身没有destroy()方法,这就把一切对象的彻底销毁后内存的回收,变成了一个不可测的变数,纵使你调用了system.gc(),但此方法的执行时机却又是未知的;所以这就要求程序员要尽可能少的创建对象(当然这还与java本身的确非常消耗内存有关),当对象一旦不用,尽可能的置为null,否则当程序运行几次后就会发现内存占有率高居不下,甚至有导致死机可能。BigDecimal还有一点要引起注意的是,两个对象即使值确实相等,但它们相比较时也可能会引起不等的结果,举个例子如:
BigDecimal testA = new BigDecimal(200)和BigDecimal testB = new BigDecimal(200.00),也许你认为testA.equals(testB)==true;但结果是false。然而testA.toString().equals(testB.toString())==true,这是因为testB.toString()的值为200,在进行类型转换时,它已把小数点后的两个零去掉了。为了解决这个问题,我通常的做法是将它们的小数点位数补起后再进行比较,这样是肯定不会出错了,如testA = testA.setScale(2,5);testB = testB.setScale(2,5);当然了你可以根据需要将小数点位数设多或设置少一点,setScale(int,int)中第一位数为设置的小数点位数,第二位是四舍五入的界值,你可以随意修改,如6,就是大于等于6是就进位。还有testA = testA.setScale(2,5)这种写法在用BigDecimal时将会一直出现,因为它必须要通过给自身返回值来替代已经存在的值,如果你这样写testA.add(new BigDecimal(0)),那你会发现你的结果并不是想象中的200,而是0。当然加减乘除都是一样的。至于刚才的比较为何不用testA.floatValue(),当然还是因为会造成精度丢失的缘故了,当然如果你的小数位数不超过5位的话,也是可以的,如果是超过5位,那就和第五位的值有关了(因为它仅保留五位小数),显示如果第五位大于等于五,即使第六位为零,也会在第五位上加一,否则后面的只会被截掉!
说到这里,忽然想起javascript中的尾数和精度问题,javascript中有一个方法“toFixed()”,这个方法就是用来截取小数点后尾数的长度的。例:var a = 343.12345465;var b = b.toFixed(4);这样b小数点后的尾数就是4位了,注意,它是按照四舍五入进行截取的。