pycharm求解惑!数字运算出错

img

为什么在pycharm中计算1x6.28的时候能够计算处正确结果,但是计算10x6.28的时候将会出错,为什么最后面会多出00000000000004

double类型的精度问题

img

原因在于我们的计算机是二进制的。浮点数没有办法使用二进制进行精确表示。计算机的CPU表示浮点数由两个部分组成:指数和尾数,这样的表示方法一般都会失去一定的精确度,有些浮点数运算也会产生一定的误差。如:2.4的二进制表示并非就是精确的2.4。反而最为接近的二进制表示是 2.3999999999999999。浮点数的值实际上是由一个特定的数学公式计算得到的。

若要想得到想要结果,可以使用round()内置函数

img