为什么减法的过程中数据少了0.000002?

我想把456倒着输出,但是总是是554,输出各个变量的值后发现少了一点,朋友们怎么回事啊图片

不能使用浮点数,精度丢失,原理是由于计算机用二进制表示小数的时候会出现乘不尽的现象。使用整数就没有问题

这是浮点数的特点决定的,浮点数不能准确表达一个长度大于它的精度的小数。
比如0.222222222222222222,如果使用变量的精度为10位的浮点数,它只能表达0.2222222222,丢失0.0000000000222222222

这样,使用这个变量计算,就会有误差了。

这是浮点数的特点决定的,浮点数不能准确表达一个长度大于它的精度的小数。
比如0.222222222222222222,如果使用变量的精度为10位的浮点数,它只能表达0.2222222222,丢失0.0000000000222222222

这样,使用这个变量计算,就会有误差了。

,它是有灰的精度丢失,原理是由于计算机用二进制表示小数的时候会出现乘不尽的现象。使用整数就没有问题

0 0 评论 4 |
分享.