如何比较不同方法下训练的神经网络?

比如说我想要比较不同的损失函数或者说不同的数据增强方法下训练神经网络的性能,我需要统一两种情况下的超参数吗?但是如果统一的话,那组超参数可能并不能同时很好的体现两种方法下的性能。

超参数算自变量啊,控制变量法就是控制这些变量,然后改变某一些参数来达到效果的。如果你像比较不同的损失函数,那你的超参数就不能改,但是需要保证你的超参数不会影响到你需要改变的损失函数。比如过训练次数要足够大,又要防止过拟合。但是比如所连个损失函数,一个100达到最佳,150过拟合,一个200最佳,250过拟合,那这种情况下就该比较最佳训练次数下的损失函数表现,而不是训练200次导致一个过拟合,一个在最佳来比较。