卷积神经网络重建一条曲线,重建的曲线上下抖动,且400到450的范围内拟合程度差

img

img

黄色是重建以后的,蓝色是原来的,可以看见曲线震荡严重,应该加入什么限制条件到loss函数里面,现在就用一个mse。是不是可以加一个条件限制曲线的震荡

这种可以作为毕业论文嘛

开头拟合差,你换一种参数初始化方式看看,抖动厉害你试试把学习率调低点看看

原图像应该是经过平滑处理了吧

不太清楚你模型的细节,只能给一些笼统意见。

  • 学习率降低可以缓解一点震荡,但是可能导致拟合性变差
  • loss项可以尝试增加震荡惩罚项,但不清楚你的数据形式和loss细节
  • 考虑梯度或者值更新时增加累积动量,别让梯度方向老是跳来跳去的
  • 最后如果为了好看,可以在神经网络的结果出来后,加一个滤波平滑

有个疑问:拟合曲线为啥用卷积神经网络.. 为啥不用多项式 或者别的基函数拟合

你可以增加网络的深度和卷积核的宽度,换L1loss试试?

在训练后期减小学习率,其实结果已经差不多了,很难一模一样的

五个建议
1.检查一下你的训练集数据量够不够。有时候结果不好单纯是因为训练集太小了。
2.预测指标可以换成MAPE试试。
3.检查一下你的数据是否标准化。
4.检查是否出现欠拟合问题。
5.以LOSS函数作为目标函数,用梯度下降法或者启发式算法寻找隐含层的参数试试。现在流行用启发式算法优化神经网络的LOSS函数,获得最佳参数。

尝试一下自适应学习率

1.检查一下你的训练集数据量够不够。有时候结果不好单纯是因为训练集太小了。
2.预测指标可以换成MAPE试试。
3.检查一下你的数据是否标准化。
4.检查是否出现欠拟合问题。
5.以LOSS函数作为目标函数,用梯度下降法或者启发式算法寻找隐含层的参数试试。现在流行用启发式算6法优化神经网络的LOSS函数
7loss项可以尝试增加震荡惩罚项,但不清楚你的数据形式和loss细节
8考虑梯度或者值更新时增加累积动量,别让梯度方向老是跳来跳去的

把学习率调小一点,步子太大,扯到蛋了。
你这样其实已经可以了,在搞下去,要过拟合了,