神经网络如何调参,应该从哪些方面入手?

我所训练的网络,loss,mae,r2,指标一直是震荡的,而且,r2指标又是为负数,不知道哪里出来问题。

img

img

img

batch size多大?太小的话震荡就增大batch size,
还有一种是你test和train的数据预处理不一致也可能会导致这种现象的,最常见的一个归一化一个没有归一化。
另外你这个网络看起来并不像是收敛了,如果收敛的话这个震荡,那就是学习率过大(这个一般是体现在收敛附近上下震荡),你可以看看是否需要继续增加epoch