深度学习中的损失函数是自己建立的吗,还有有特定的公式?还有优化器是什么意思,也是一个程序或者软件吗?还有那些设置的batch、epoch等等,是电脑设定的还是人为设定的呢?
损失函数可以自己写,如果你有特殊的需求,如我前面所说。也可以使用默认的,比如说就用平均方差。
优化器说白了就是寻找最佳模型权重参数的一个程序,它本身是神经网络的一个子程序,并不是一个独立的程序。比如说常见的用什么随机梯度下降、网格搜索等等,这些都是优化器的算法。
batch、epoch这些叫做超参数,所谓超参数就是网络的设计者人为规定的,不是靠程序搜索的。
可以是自己建立的,也可以使用已有的特定公式。常见的损失函数包括均方误差、交叉熵。
优化器是指用于更新模型参数的算法或程序。根据损失函数的梯度信息来调整模型参数,以使损失函数的值尽可能小。常见的优化器有随机梯度下降
batch、epoch这些超参数的设定根据问题、数据集的大小和计算资源的限制进行调整。
随着epoch数量增加,神经网络的权重更新次数也在增加,曲线由欠拟合会变得过拟合。