C语言，比较偏数学的问题

img


下面的解决方法是提示