浮点数只有十进制,那怎么在计算机中存储,计算机中不是只认二进制吗?
用例子解释比较清楚,
例如:
浮点数3.0,二进制表示为011.000,也就是2+1
浮点数0.5,二进制表示为000.100,也就是0+½,也就是0+0.5
浮点数0.75,二进制表示为000.110,也就是0+½+¼,也就是0+0.5+0.25
浮点数0.875,二进制表示为000.111,也就是0+½+¼+⅛,也就是0+0.5+0.25+0.125
所以可以得出,浮点数小数部分是由一堆不断除以2的数相加组成的。
那么问题来了,0.6怎么用二进制表示。
经过理论论证0.6是不能用二进制完整表示的,所以计算机只能存储0.6的近似值(类似0.5999999xxxx的值)。
也就是说浮点数在计算机中只是以二进制存储近似值,如果计算精度非常高时会出现计算出错的问题。
参考阅读:
https://blog.csdn.net/yy339452689/article/details/108256478
https://blog.csdn.net/Romantic_wennuan/article/details/123769217
不知道你这个问题是否已经解决, 如果还没有解决的话: