卷积神经网络中数据增强

神经网络为了避免过拟合，加入数据增强会导致loss上升吗？，会导致网络loss波动吗？

数据增强可能会导致训练过程中loss的波动和增加。
如果loss的波动或者增加的幅度可以接受，而且最终的模型性能也更好那就是可以的。
 
如果答案对您有所帮助，望采纳。

• 帮你找了个相似的问题, 你可以看下: https://ask.csdn.net/questions/1069072
• 你也可以参考下这篇文章：神经网络验证集的loss比训练集的loss要小
• 除此之外, 这篇博客: 深度学习（神经网络）训练时loss不变的可能原因中的 一、训练背景 部分也许能够解决你的问题, 你可以仔细阅读以下内容或跳转源博客中阅读:
  
• 1. 模型采用简单的四层linear以及Relu、Sigmoid，实现二分类问题
  2. loss采用的是交叉熵和Focal loss(测试Focal loss性能)
  3. 优化方式采用的是Adam+StepLR

数据增强用于解决过拟合，一般来说不会用于样本数不太大的场合。由于原问题样本数不大，所以原来的训练容易过拟合，也即 LOSS 较小而且训练集的 LOSS会持续下降。
“加入数据增强会导致loss上升吗”，这就要看跟谁比较，以及如何看待了。首先，数据增强后 LOSS 在训练过程的开始阶段也会下降，与原来的训练差不多。接下来原来的训练 LOSS 持续下降，而数据增强后训练到一定阶段后 LOSS 基本稳定，小幅波动。从这个角度看 训练集的 LOSS 与原来相比可能会上升。
但是，如果考察验证集的 LOSS ，则不一定。原来的训练过拟合，验证集的 LOSS 到某一阶段后不降反升，说明过拟合，而且可能持续上升。而 数据增强后，正常来说验证集的 LOSS 下降到某一水平后也会比较稳定，这个 LOSS 往往比原来的模型更小。