「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。
本期 AI Drive,我们邀请到清华大学计算机系本科生王子奇,为大家在线解读其发表于 ACL 的最新工作:CLEVE: Contrastive Pre-training for Event Extraction。对本期主题感兴趣的小伙伴,6 月 24日(周四)晚 7 点,我们准时相约 PaperWeekly B 站直播间。
直播信息
微调预训练模型能显著地提升事件抽取的表现,然而现有的预训练方法并没有特别关注事件特征,导致构建的事件抽取模型不能充分利用大规模无监督数据中的丰富事件信息。我们提出了一个基于对比学习的预训练框架 CLEVE,它包含一个文本编码器和一个图编码器,两个编码器通过自监督的对比学习来学习事件语义和事件结构的表示。实验表明,CLEVE 能让预训练模型更好地从大型无监督数据中学习事件知识和对应的语义结构,从而在有监督和无监督两个场景及 ACE 和 MAVEN 两个数据集上都取得了更好的效果。
论文标题:
CLEVE: Contrastive Pre-training for Event Extraction
论文链接:
/abs/2105.14485
代码链接:
/THU-KEG/CLEVE
本次分享的具体内容有:
背景介绍:当前事件抽取的研究进展
研究动机:抓取触发词和⻆色之间的语义关系
相关工作:对抗学习,AMR 解析
方法实现:基于 AMR 解析和对抗学习的预训练模型
实验结果:实验结果分析和结论
总结:论文总结与未来展望
嘉宾介绍
王子奇/ 清华大学本科生
王子奇,清华大学计算机系大四本科生,本科期间在 THUNLP 实验室进行相关科研工作,导师为刘知远副教授。主要研究方向为信息抽取,事件抽取。曾在 EMNLP, ICLR 等顶级会议上发表若干文章。
直播地址& 交流群
本次直播将在 PaperWeekly B 站直播间进行,扫描下方海报二维码或点击阅读原文即可免费观看。线上分享结束后,嘉宾还将在直播交流群内实时 QA,在 PaperWeekly 微信公众号后台回复「AI Drive」,即可获取入群通道。
B 站直播间:
/14884511
合作伙伴
????
现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧
关于PaperWeekly
PaperWeekly 是一个推荐、解读、讨论、报道人工智能前沿论文成果的学术平台。如果你研究或从事 AI 领域,欢迎在公众号后台点击「交流群」,小助手将把你带入 PaperWeekly 的交流群里。