public class Test6{
public static void main(String[]args){
int size=10;
double [] myList=new double[size];
myList[0]=1.2;
myList[1]=1.3;
myList[2]=1.0;
myList[3]=1.0;
myList[4]=1.0;
myList[5]=1.0;
myList[6]=1.0;
myList[7]=1.0;
myList[8]=1.6;
myList[9]=1.2;
double total=0;
for(int i=0;i<size;i++){
total+=myList[i];
}
System.out.print("Total is:"+total);
}
}
打印结果是Total is :11.299999999999
为什么打印不出11.3
double有两个误差,一个是2进制和10进制转换的误差,一个10进制为整的数字,比如1.1,用二进制表示,就是一个无限循环小数。但是计算机的字长不是无限的,所以有误差。
另一个是浮点本身的计算误差一个很大的double值+一个很小的double值,那么很小的值没办法在前一个数字有效尾数上表示,甚至会被忽略,或者精度损失。
由于以上两点,浮点数计算和显示会出现误差。
BigDecimal 用这个来计算哦
浮点型数据操作是不精确的
这不是溢出,是double类型精确度问题,如果需要舍入可以选择另一种BigDecimal这种数值类型,它有数值运算,并且可以指定舍入类型。
非溢出,精度问题,楼上已解释。