测试集精度波动大,可能是什么原因呢?

img


个人感觉是不是学习率太大的问题,目前学习率为0.001,同时也怀疑是不是网络结构问题,网络结构最后几层目前是:BN + tanh + FC + FC

感谢邀请
学习率再精细一下试试

观点1:你的测试集loss是稳定的下降,这表明模型优化的方向是没有问题的;
观点2:loss下降而精度却剧烈波动,这表明你模型的预测值大都在分类边界上徘徊(比如是二分类,输出概率值在0.5上下波动)
观点3:loss下降而精度也剧烈下降,这说明loss下降使错误的预测更多了,这不合常理,同时结合观点2,这表明你应该是你的数据集中类别标签存在错误,导致模型对某两个类型存在混淆概念。

可以再调小一点学习率,加大训练周期,看看效果。