网络训练损失函数一直震荡该怎么办？

网络用的dncnn，损失函数就开始降低了一次，其他时候一直震荡，下面该怎么办？

减小学习率和BatchSize