在简单地main函数中输出的结果:0.8999999999999999;而非0.9;因为是以二进制存储的,所以不能除尽1/10。
解决方法有:1,
System.out.printf("%.1f",2.0-1.1); 还有一个网上看到的:
在double变量存入堆时确保精度的方法:
System.out.println(new BigDecimal(1.1)); 输出的值为一大长串为:1.100000000000000088817841970012523233890533447265625
posted on 2012-02-28 19:17
魏文甫 阅读(827)
评论(0) 编辑 收藏