在做一个计算时,累积误差很大,查找原因发现使用fortran 计算除法时,从小数点后6位开始,精度就差别很大了,超出可接收范围了。什么原因??
program temp
implicit none
real(kind=4)::i=12000.5
real(kind=4)::j=1000000.0
real(kind=4)::m,n
write(*,'(f12.8)')j/i
end program
上面的简单的fortran 出来的结果是:83.32986450
用excel或者手机计算的结果是: 83.32986126
单精度数据只有6-7位有效数字,所有语言都这样。双精度15位有效数字。
kind=8 双精度就没问题了。自问自答吧