可应用于实际的14个NLP突破性研究成果(三)

  1. 云栖社区>
  2. 翻译小组>
  3. 博客>
  4. 正文

可应用于实际的14个NLP突破性研究成果(三)

【方向】 2019-01-28 22:54:30 浏览1590
展开阅读全文

8.用于语义角色标注的语言学信息自我注意力方法,作者:EMMA STRUBELL,PATRICK VERGA,DANIEL ANDOR,DAVID WEISS,ANDREW MCCALLUM

论文摘要

当前最先进的语义角色标记(SRL)使用深度神经网络,但没有明确的语言特征。之前的工作表明,抽象语法树可以显著改善SRL,从而提高模型准确性。在这项研究中,我们提出了语言学的自我关注(LISA):该神经网络模型将 multi-head self-attention 与多任务学习相结合,包括依赖解析、词性标注、谓词检测和语义角色标记。与先前需要大量预处理来准备语言特征的模型不同,LISA 可以仅使用原始的 token 对序列进行一次编码,来同时执行多个预测任务。此外,如果已经有高质量的语法分析,则可以在测试时加入,而无需重新训练我们的SRL

网友评论

登录后评论
0/500
评论
【方向】
+ 关注
所属云栖号: 翻译小组