线性模型训练问题111111

咨询和问题,线性模型可以按下面这种公式训练不,如果是平方或者多项式可以直接乘嘛,特殊公式可以直接指定公式转换不呢,还是只能分拆乘单项去算权重?
目标值 =权重ln(参数1)+(权重+权重参数2+权重参数3)(权重+权重参数2+权重参数3^2)/参数1权重+权重

img

【相关推荐】



  • 这篇博客: 【BN、LN和梯度消失与梯度爆炸】中的 2. 梯度剪切、正则 部分也许能够解决你的问题, 你可以仔细阅读以下内容或跳转源博客中阅读:

    梯度剪切主要是针对梯度爆炸提出的,其思想是设置一个梯度剪切阈值,更新梯度时,如果梯度超过这个阈值,那么就将其强制限制在这个范围之内,防止梯度爆炸。另一种解决梯度爆炸的手段是权重正则化(weithts regularization),常见的是 l1 正则,和 l2正则。


如果你已经解决了该问题, 非常希望你能够分享一下解决方案, 写成博客, 将相关链接放在评论区, 以帮助更多的人 ^-^