专家你好,我想询问下高斯混合物生成的具有许多相似权重的网络分布如果采用逐层顺序网络构建有什么变化吗?这是我翻阅的链接:https://arxiv.org/pdf/1404.7828.pdf
逐层顺序网络构建可以避免模型过拟合的问题和提高泛化,每个层级上的分布都是相似的,你要是用之前层级的模型参数作为初始化值迭代就少了很多
不会太大影响吧。不过,可能会影响模型的训练效率和准确度,可能会导致模型陷入局部最优解。
如果每一层网络的权重都很相似,那么逐层顺序网络构建可能没有太大影响。