10.3969/j.issn.1000-386x.2022.12.028
采用稀疏自注意力机制和BiLSTM模型的细粒度情感分析
使用Word2vec训练词向量、循环神经网络和注意力机制进行情感分析时,存在着文本特征提取不全面、计算资源消耗过多、计算时间较长的问题.为解决这些问题,提出新的CBSA网络模型.该模型使用Cw2vec预训练的词向量作为输入,双向长短期记忆网络(BiLSTM)来对这些具有时序信息的文本进行全面特征的提取;使用分解后的稀疏自注意力机制(Sparse Self-Attention)再次对这些文本特征进行权重赋予;由Softmax对文本进行情感的分类.实验结果表明,使用Cw2vec训练的词向量相比Word2vec,F1-Score大约提高0.3%;CBSA模型相比未分解的自注意力机制(Self-Attention),内存消耗减少了大约200 MB,训练时间缩短了210 s.
Cw2vec、细粒度情感分析、循环神经网络、双向长短期记忆网络、稀疏自注意力机制
39
TP391(计算技术、计算机技术)
民航科技创新重大专项;民航安全能力项目;国家自然科学基金
2023-02-09(万方平台首次上网日期,不代表论文的发表时间)
共8页
187-194