QString s = "2.5";float f = s.toFloat();f += 0.1;
在其中一个vs程序中,f = 2.50000000...f+=0.1 得2.59999...而单独拿出来实验一下结果却是2.6,无论在qt还是在vs下都是2.6这是怎么回事?
浮点数的精度和进制转换误差受到系统环境和编译器的影响,尾数上存在差异很正常