测试集tss要比验证集tss差不少

img


验证集loss波动,不知道为什么。弄了10个训练验证测试集,上图是其中一个的图,最后验证tss均值0.71,测试tss均值0.62。真不知道怎么办,跟网上的调参图也不一样,有没有小伙伴帮忙回答一下

很明显,这是网络出现了过拟合的情况,波动过大可能是学习率过大导致,这里给几点减轻过拟合的建议
1.使用更多的训练数据
2.把batchsize调大,最好设置到你设备能接受的最大值
3.可以适度添加类似dropout的结构减少过拟合