基于注意力机制的细粒度文本情感分析研究
文本情感分析是自然语言处理中的一个重要研究领域。细粒度情感分析旨在区分给定句子中每个特定方面/目标的情感极性，是文本情感分析的热点研究方向，也是近年来语义网和计算语言学界关注的核心问题。该问题的一个重要挑战是如何建模方面/目标及句子之间的语义关系。 针对该问题，本文提出了基于多头注意力的位置感知细粒度情感分析模型以及词嵌入融合交互情感分析模型。论文主要工作如下: (1)为了解决情感极性预测性能提升问题，本文研究提出了基于多头注意力的位置感知细粒度情感分析模型。模型中结合GRU网络有效提取时序依赖信息，多头注意力提取文本垂直空间特征信息上的优势;引入方面项的位置信息，提高信息检索的性能;引入交互注意力机制学习方面项和上下文之间的相互影响，合理学习方面项及上下文之间的语义信息。 (2)为了丰富特征提取内容以提升模型情感极性预测性能，本文研究提出了词嵌入融合交互情感分析模型。该模型结合RWE(Relational Word Embedding)及FastText词嵌入，通过在输入层利用词嵌入之间的互补作用丰富特征提取内容。其中，RWE在单词嵌入中编码关系知识，FastText词嵌入编码文本序列作用于词嵌入生成。GloVe再利用注意力机制学习两种词嵌入之间的互补、增强等，生成权重分布，从而自适应的学习适合任务的隐藏状态表示。最后，通过方面项与上下文表示之间的交互学习挖掘方面项与上下文之间的相互影响充分利用两者之间的语义信息，从而达到提升情感极性预测性能提升的效果。 (3)通过在公共数据集SemEval2014上进行实验，证明了本文提出的基于多头注意力的位置感知细粒度情感分析模型以及词嵌入融合交互情感分析模型的有效性。
细粒度情感分析;位置感知;注意力机制;词嵌入融合;交互学习
北京化工大学
硕士
计算机科学与技术
万静
2020
中文
TP391.1
2020-11-17（万方平台首次上网日期，不代表论文的发表时间）