10.19665/j.issn1001-2400.2022.05.021
融合自注意力机制与CNN-BiGRU的事件检测
基于卷积神经网络和循环神经网络的事件检测已得到广泛研究.然而卷积神经网络只能考虑卷积窗口内的局部信息,忽略了词语的上下文联系.循环神经网络存在梯度消失和短期记忆的问题,且其变体门控循环单元无法得到每个词语的特征.为此,提出一种基于自注意力机制与卷积双向门控循环单元模型的事件检测方法.该模型将词向量和位置向量作为输入,不仅能够通过卷积操作提取不同粒度的词汇级特征,通过双向门控循环单元提取句子级特征,而且通过自注意力机制考虑全局信息,关注对事件检测更重要的特征.将提取的词汇级特征和句子级特征拼接作为联合特征,通过softmax分类器进行候选词分类,从而完成事件检测任务.实验结果显示,在ACE2005英文语料上,事件检测中触发词识别和分类的 F值分别达到78.9%和76.0%,优于基线事件检测方法的结果,且模型表现出更好的收敛性.实验结果表明,所提出的基于自注意力机制与卷积双向门控循环单元模型有良好文本特征提取能力,提升了事件检测的性能.
事件检测、信息抽取、卷积神经网络、双向门控循环单元、自注意力机制
49
TP18(自动化基础理论)
中电天奥有限公司创新理论技术群基金;国家自然科学基金
2022-11-24（万方平台首次上网日期，不代表论文的发表时间）
共8页
181-188
