是c++ primer plus p60的题目,如下:
#include <iostream>
int main ()
{
using namespace std;
cout.setf (ios_base::fixed, ios_base::floatfield);
cout << "double constants: 1e7/9.0 = " << 1.e7/9.0 << endl;
cout << "float constants: 1e7f/9.0f = " << 1.e7f/9.0f << endl;
return 0;
}
输出结果分别为
为什么计算结果会不一致?还有就是cout.setf (ios_base::fixed, ios_base::floatfield);这行,ios_base::fixed是定点输出,是指小数点固定的意思吗?那么就是默认固定小数点后六位吗?ios_base::floatfield这个又是什么意思呢?
最后问一下1e7和1.e7有区别吗?
谢谢了。
float的精度比较低。不加f默认是double
你看到输出结果尾数0.125没有,如果结果是1/2^n,那么就说明是精度不够,因为二进制转换成十进制,结尾必须是1/2^n的倍数