如图一,输入3 5后得到r1==1.875,以%.2f输出却是1.87
但我知道%.2f是会自动四舍五入的,如图二,输入1.875,输入为1.88
已经解决了,精度问题
四种方法
一,用double定义r1,r2
二,用(double)输出
三,每一个常数1都保留一位小数
四,避开除法,人工计算一步
由于我初学,如果还有什么方法请求告知,关于精度问题有什么知识点(或者这些方法的原理解释)希望好心人能教我一下,万分感激
当用float
类型,r1=3
, r2=5
时,r1 = 1 / (1 / r1 + 1 / r2);
计算得到r1=1.874999...
,按%.2f
格式输出就是1.87