10.3969/j.issn.1001-4616.2022.03.016
基于集成学习的中文命名实体识别方法
针对中文命名实体识别经典的BiLSTM-CRF(bi-directional long short-term memory-conditional random field)模型存在的嵌入向量无法表征多义词、编码层建模时注意力分散以及缺少对局部空间特征捕获的问题,本文提出一种融合BERT-BiGRU-MHA-CRF和BERT-IDCNN-CRF模型优势的集成模型完成命名实体识别.该方法利用裁剪的BERT模型得到包含上下文信息的语义向量;再将语义向量输入BiGRU-MHA(bi-directional gated recurrent unit-multi head attention)及IDCNN(Iterated Dilated Convolutional Neural Network)网络.前者捕获输入序列的时序特征并能够根据字符重要性分配权值,后者主要捕获输入的空间特征,利用平均集成方式将捕获到的特征融合;最后通过CRF层获得全局最优的标注序列.集成模型在人民日报和微软亚洲研究院(Microsoft research asia,MSRA)数据集上的F1值分别达到了96.09％和95.01％.相较于单个模型分别提高了0.74％和0.55％以上,验证了本文方法的有效性.
命名实体识别、BERT模型、集成学习、注意力机制、迭代膨胀卷积网络
45
TP391(计算技术、计算机技术)
2022-09-22（万方平台首次上网日期，不代表论文的发表时间）
共9页
123-131
