目前研一想学习多模态情感分析,应该从哪开始呢?导师放养,一年就见过一次,不知道从怎么开始学习开始,希望朋友们指一条明路。
要理解任何论文,首先要了解作者试图证明的内容。 作者声称他们发现了为什么大批量会导致更差的泛化。 他们“提供了支持大批量方法趋向于收敛到训练和测试函数的sharp minima(尖锐的最小值)的观点的数值证据——众所周知,sharp minima会导致较差的泛化。 而小批量方法始终收敛到flat minima(平坦的最小值),论文的实验支持一个普遍持有的观点,即这是由于梯度估计中的固有噪声造成的。” 我们将在本篇文章中做更多的说明,所以让我们一步一步来。 下图描绘了尖锐最小值和平坦最小值之间的差异。
对于尖锐的最小值,X 的相对较小的变化会导致损失的较大变化
一旦你理解了这个区别,让我们理解作者验证的两个(相关的)主要主张:
作者在论文中强调了这一点,声明如下:
我们现在将查看他们提供的证据。 他们设置实验的一些方法很有趣,会教会我们很多关于设置实验的知识。
我对多模态情感分析领域不是很精通,但可以从一些基础知识和资料中给出一些指导和建议。
1.基础知识: 首先需要掌握的是自然语言处理、计算机视觉等相关领域的基础知识。对于自然语言处理,需要掌握文本表示方法,如词袋模型、TF-IDF等,以及相关的机器学习算法,如朴素贝叶斯、支持向量机等。对于计算机视觉,需要掌握图像表示方法,如卷积神经网络、图像特征提取等,以及相关的机器学习算法,如决策树、随机森林等。 其次,需要熟悉情感分析领域的一些基础知识,如情感词典、情感分类器等。
2.算法和模型: 针对多模态情感分析,可以采用的算法和模型包括双分支循环神经网络、多通道循环神经网络、矩阵分解模型、协同神经网络等。这些算法和模型在实现上都比较复杂,需要具备一定的编程和数学基础,其中深度学习的算法和模型需要掌握一定的神经网络基础知识。
3.学习材料和网站: 目前比较常用的学习材料和网站包括PyTorch官方文档、DeepLearning.ai、Kaggle等。其中,PyTorch官方文档提供了详细的深度学习相关教程和文档,DeepLearning.ai是一家在线深度学习课程提供商,提供了全面的深度学习课程,包括自然语言处理、计算机视觉、深度学习基础等,Kaggle是一个竞赛平台,也是一个学习社区,可以通过参与竞赛来提高实践能力。
总之,多模态情感分析是一个相对较难的研究领域,需要具备一定的自然语言处理和计算机视觉基础知识以及深度学习相关背景,需要阅读大量的文献和学习材料,同时需要对算法和模型的实现有一定的编程技能。如果想要更深入地了解该领域,建议找到导师指导,进行系统的研究和学习。