例如
x=123.456
用%10f来输出
为什么得到的是123.456001
而不是123.456000
在上课的时候ppt上看见的
我用#CSDN#这个app发现了有技术含量的博客,小伙伴们求同去《浮点数的存储及输出问题》, 一起来围观吧
float的精度问题,比如你定义float a = 1;你打印出来,他的值可能是1.0000100这样子,所以我们计算的时候基本都是4舍5入。近似认为其值等于1 。
x为double型就可以了
float 可以保证6位有效数字
double 可以保证15位有效数字