https://www.bigphysics.org/api.php?action=feedcontributions&feedformat=atom&user=Qiaoxizi 2026-04-17T11:06:07Z 用户贡献 MediaWiki 1.35.1 https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:%E5%B7%A5%E4%BD%9C%E8%BF%9B%E5%B1%95%E4%B9%8B%E6%A8%B5%E6%BA%AA%E5%AD%90&diff=5875 2021-02-25T13:18:34Z

<p>Qiaoxizi：</p> <hr /> <div>[[分类:工作进展板]]<br /> <br /> 本学期计划：<br /> <br /> # 学习内容<br /> ## 学校课程<br /> ## 2019斯坦福CS224n深度学习自然语言处理<br /> ## 阅读《教的更少，学得更多》<br /> # To do list<br /> ## 感想类论文分类器<br /> ## “智能复杂体系的人机协同演化研究”项目 投票模型拓展<br /> ## 股票缺口课题</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:%E6%95%99%E8%82%B2%E7%B3%BB%E7%BB%9F%E7%A7%91%E5%AD%A6%E7%A0%94%E7%A9%B6%E4%B8%AD%E5%BF%83&diff=5557 2021-01-13T01:49:46Z

<p>Qiaoxizi：/* 愿景、使命、价值和标语 */</p> <hr /> <div>[[分类:认知和教育中的系统科学]]<br /> <br /> [http://iess.bnu.edu.cn 教育系统科学研究中心　Institute of Educational System Science] （中心网站在建设中，这个页面是中心网站的主要内容）<br /> <br /> 基于“认知和教育中的系统科学”研究的共同兴趣，基于对“帮助老师们教的更好，帮助学生们学得更好”的共同使命，我们成立了'''北京师范大学系统科学学院教育系统科学研究中心'''。这个分类记录中心基本信息和中心的各种活动。<br /> <br /> =中心成员=<br /> 北京师范大学汉语文化学院　陈路遥<br /> <br /> 北京师范大学系统科学学院　陈晓松<br /> <br /> 大连理工大学科学学与科技管理研究所&amp;WISE实验室 陈悦 <br /> <br /> 北京师范大学系统科学学院　狄增如<br /> <br /> 北京师范大学汉语文化学院　丁崇明<br /> <br /> 国家信息中心　杜链<br /> <br /> 北京师范大学汉语文化学院　冯丽萍<br /> <br /> 北京师范大学中文信息处理研究所　胡韧奋<br /> <br /> 北京航空航天大学可靠性与系统工程学院　李大庆<br /> <br /> 北京师范大学系统科学学院　李克强<br /> <br /> 北京师范大学教育学部　李崧<br /> <br /> 北京师范大学系统科学学院　刘艳<br /> <br /> 云南西双版纳生物医学研究院　钱卓<br /> <br /> 北京师范大学系统科学学院　斯白露<br /> <br /> 北京师范大学系统科学学院　王大辉<br /> <br /> 北京师范大学国家安全与发展战略研究院 汪明<br /> <br /> 北京师范大学系统科学学院　吴金闪<br /> <br /> 天津师范大学心理学部　吴俊杰<br /> <br /> 浙江工商大学经济学院　许彬<br /> <br /> 北京师范大学汉语文化学院　徐彩华<br /> <br /> 北京师范大学中文信息处理研究所　杨丽姣<br /> <br /> 中国科学院文献情报中心　杨立英<br /> <br /> 北京交通大学交通运输学院　闫小勇<br /> <br /> 北京师范大学化学学院　尹冬冬<br /> <br /> 北京师范大学系统科学学院　曾安<br /> <br /> 北京师范大学系统科学学院　张江<br /> <br /> 武汉大学信息管理学院　张琳<br /> <br /> 北京师范大学教育学部　赵国庆<br /> <br /> 北京师范大学教育学部　郑丽芬<br /> <br /> 北京师范大学系统科学学院　周亚<br /> <br /> 北京师范大学教育学部　朱志勇<br /> <br /> 宁德时代新能源科技有限公司　黄思应（外联）<br /> <br /> 北京都云科技有限公司　葛毅（中心联席主任，负责外联团队）<br /> <br /> 曲速未来人工智能技术(广州)有限公司 侯欣杰（外联）<br /> <br /> 北京我知科技有限公司　李峻 （外联）<br /> <br /> 北京快当图文制作有限公司 马海明（外联）<br /> <br /> 智象爱科（北京）信息技术有限公司　王沫（外联）<br /> <br /> 浙江有进步信息科技有限公司　魏雷（外联）<br /> <br /> 成都正载教育科技有限公司 姚敏<br /> <br /> 北京读书人网络科技有限公司　张鹿（外联）<br /> <br /> Charles (Kip) Ault, Lewis &amp; Clark Graduate School<br /> <br /> 法国东方语言文化学院 白乐桑（Joël Bellassen）<br /> <br /> Michael Brody, Montana State University<br /> <br /> Alberto Cañas, the Institute for Human and Machine Cognition<br /> <br /> Simone Conceição, University of Wisconsin-Milwaukee<br /> <br /> Joel Mintzes, California State University<br /> <br /> Joseph Novak, Cornell University<br /> <br /> <br /> =愿景、使命、价值和标语=<br /> 愿景（Vision）<br /> <br /> 帮助老师教得更好，帮助学生学得更好。<br /> <br /> To help teachers/learners to teach/learn better.<br /> <br /> 使命（Mission）<br /> <br /> 推动深层教和学，经得起检验的教和学，促进知识的创造和创造性的使用。<br /> <br /> To devolop experimentally validated deep teaching and learning, cultivate creators and creative user of knowledge.<br /> <br /> 价值（Value）<br /> <br /> 系统——从孤立到有联系，从直接联系到间接联系，上下左右贯通；科学——问题和数据驱动，实验检验。<br /> <br /> System: connecting the isolated, seeing through connections; Science: conducting problem/data-driven researches to describe the world with and experimentally validated models and concepts.<br /> <br /> 标语（Slogan）<br /> <br /> 系联起来，我们让世界，尤其是教育，不一样。<br /> <br /> Connected, we are making a difference, especially to education.<br /> <br /> 核心产品或者说方法（Core Product or Core Method）<br /> <br /> 人类知识高速公路上的以高层知识生成器为目标的理解型教和学。这种教和学的方法的优势：越学需要记住的东西越少越简单；学习和研究创造之间无缝结合；学习者可以学成自己的四不像。<br /> <br /> Meaningful learning for advanced knowledge generator over the network of human knowledge highway, which has unqie advantages as: the more advanced one learns the simpler it becomes and the less one needs to memorize, seamless connection between learning and creating knowledge, learner's full control over what to learn and what to become.<br /> <br /> =定位和特点=<br /> '''开展深层教和学的研究'''：浅层学习指的是事实性、流程性浅层知识的记忆型学习，其典型活动是信号的接收、记忆、运算、重复性流程的练习；深层学习指的是通过在学科概念和事实性流程性知识之间的相互转化来学习浅层知识和领会学科概念，以及从学科典型思维方式和典型研究对象研究问题来生成学科概念，甚至从超越具体学科的人类一般思维方式和学习方法来生成具体学科的思维方式和概念；跟目前的教育神经科学主要研究的浅层学习不同，我们主要研究深层学习的测量、对进一步学习和创造知识的效果，以及促进深层学习的方法。<br /> <br /> '''促进基于数据和基于实验的研究'''：包含教和学行为的数据和脑活动的数据，实验室实验和田野实验相结合。<br /> <br /> '''融合多个学科'''：系统科学、知识学科领域（对学科现有知识的理解和学科研究经验）、脑与认知科学，合起来用于教和学以及相适配的教和学的管理的研究。系统科学是其中的粘合剂。<br /> <br /> '''问题驱动研究'''和'''开放性研究中心'''：围绕“帮助老师们教得更好，帮助学生们学得更好”的研究问题，无论研究负责人是否中心成员，都欢迎来开展研究和合作<br /> <br /> =具体研究和实践项目=<br /> # 学科知识网络的构建：以概念地图和Wiki词条相结合的形式，反映了学科概念间的、学科概念和学科大图景间的联系，标注好教和学的层次，体现好理解的关键点；习题对应到知识网络上顶点和连边的标注。这部分研究一方面是后续研究的基础，一方面本身就可以帮助到教和学。<br /> ## 汉字（已基本完成，见[http://www.learnm.org 汉字理解型学习]，目前招募汉字本义图片和构字理据性英文解释的制作，招募汉字理据性打分）<br /> ## 英文单词（基本完成）<br /> ## 中小学数学（小学部分基本完成）<br /> ## 中小学物理<br /> ## 中小学语文<br /> ## 中小学历史<br /> ## 中小学地理<br /> ## 中小学信息科学<br /> ## 大学以及以上物理学<br /> ## 系统科学<br /> ## 科学计量学<br /> # 知识网络相关算法<br /> ## 学科概念地图构建算法的研究（人工、自然语言处理，或者两者结合）<br /> ## 知识网络上学习顺序算法的研究<br /> ## 知识网络上诊断性检测算法的研究<br /> # 深层教和学的研究：深层教和学的活动和学习效果是否可测量，从脑活动和行为上，和浅层教和学的区别；深层学习是否有助于创造知识解决问题；如何促进深层教和学<br /> ## 深层学习和浅层学习的对比，脑活动、学习成本和效果<br /> ### 被试在回答内在逻辑相同但是和生活经验距离不同的问题的脑活动的对比。旨在发现逻辑决策相比较于经验决策的特异性脑区<br /> ### 不同深浅的知识的学习和运用过程中脑区活动的对比，例如不同层次的类比的脑活动区域对比。旨在发现深层知识深层思维相比较于浅层知识浅层思维的特异性脑区<br /> ### 汉字等各个学科知识在深层和浅层学习过程和应用中（短、中、长期之后）的脑区活动对比，学习效果（迁移能力、问题解决能力）的对比<br /> ## 从知道到会用的距离，也就是知道知识但是不能把这些知识用于解决问题，是否就是教和学的层次的问题<br /> ## 迷思的抑制和解除，是否就是教和学的层次的问题<br /> ## 习惯了深浅层学习的学习者在问题解决能力上的对比：再有了上面的脑区的研究结果，以及学习深浅层测量量表、教学深浅层测量量表、问题解决能力创造力测量量表之后，我们就可以通过脑活动测量、行为实验测量、量表测量来研究学习的深浅层次和问题解决能力之间的关联性<br /> ## 深层教和学的多脑（教师和学生）同步和关联研究<br /> # 教和学的层次标注和标注体系的研究，数据采集、分类编码和统计分析，量表编制，标注系统的研究（放入课堂活动的视频、音频、文字资料，学科知识地图，自动做出来教学层次的标注；放入习题、学科知识地图，自动做出来习题的层次标注）<br /> # 教和学的材料的编撰和设计以及实验研究，以教材、教具、玩具等多种形式<br /> # 和理解型学习相关的社会调查研究<br /> ## “老师的时间上哪里去了”调查研究<br /> ## 小学初中高中大学成绩相关性研究<br /> ## 大学学习到的东西和工作和生活的相关性调查研究<br /> # 和理解型学习相适配的教师培训、教育管理的研究和实践<br /> # 软件和系统的开发：<br /> ## 概念地图制作软件（和商业公司合作开发，必须保留基本功能的公益运行，见[http://www.lynkage.cn Lynkage系联]）<br /> ## 基于学科概念地图的课程视频网站、基于检测算法和学习顺序的个性化学习系统（和商业公司合作开发，必须保留基本功能的公益运行）<br /> ## 标注系统的开发（放入课堂活动的视频、音频、文字资料，学科知识地图，自动做出来教学层次的标注；放入习题、学科知识地图，自动做出来习题的层次标注）<br /> ## 招募学生或者商业公司汉字本义图片的制作（北京快当图文制作有限公司）<br /> ## 招募学生或者商业公司构字理据性英文解释的制作<br /> ## 汉字卡片等教具、玩具、艺术品的开发，传播理解型学习，传播汉字汉语<br /> <br /> =研究成果（论文、书籍、软件、课程）=<br /> 分为按照日期展示、按照研究方向和项目展示两种形式<br /> <br /> =活动预告和纪要=<br /> # 第一次讨论（2020年11月4日），主题：深层教和学研究的理念、项目和方法，[[:分类:教育系统科学中心第一次活动纪要|纪要]]<br /> # 第二次讨论（2020年11月27日），主题：中心第一批研究项目研究计划讨论，[[:分类:教育系统科学中心第二次活动纪要|纪要]]<br /> # 第三次讨论（2020年12月16日），主题：中心第一批研究项目研究计划讨论，[[:分类:教育系统科学中心第三次活动纪要|纪要]]<br /> # 第四次活动（2021年1月10日），主题：中心成立小会筹备，展示几个项目的预研究成果，[[:分类:教育系统科学中心第四次活动纪要|纪要]]<br /> # 中心成立活动（2021年1月15日，下午4-6点），[[:分类:教育系统科学中心成立活动纪要|纪要]]<br /> # 第四次活动（2021年2月1日），主题：中心准备开展的几个项目的研究讨论，[[:分类:教育系统科学中心第五次活动纪要|纪要]]<br /> <br /> =中心组织架构=<br /> <br /> ==中心组织者==<br /> <br /> 中心联合创始人：吴金闪，陈晓松，周亚，葛毅，狄增如，冯丽萍<br /> <br /> 中心主任　吴金闪（iess@bnu.edu.cn）<br /> <br /> 负责中心研究方向的设计<br /> <br /> 中心联席主任　葛毅（iess.cochair@bnu.edu.cn）<br /> <br /> 负责中心外联团队，负责中心研究和运行资金募集任务，负责培训活动<br /> <br /> 中心副主任　周亚（iess@bnu.edu.cn）<br /> <br /> 负责中心活动组织工作、研究开展进程、资金使用和募集、培训活动等的监督，负责内部制度文档管理<br /> <br /> 中心秘书　待招募（iess.sec@bnu.edu.cn）<br /> <br /> 中心制度文档管理、中心知识文档管理、中心活动组织、中心日程管理、中心联系人<br /> <br /> ==中心学术委员会==<br /> <br /> ==中心发展战略委员会==<br /> Advisory Board<br /> <br /> 北京师范大学　丁崇明<br /> <br /> 国家信息中心　杜链<br /> <br /> 北京师范大学　李克强<br /> <br /> 云南西双版纳生物医学研究院　钱卓<br /> <br /> Charles (Kip) Ault, Lewis &amp; Clark Graduate School<br /> <br /> 法国东方语言文化学院 白乐桑（Joël Bellassen）<br /> <br /> Michael Brody, Montana State University<br /> <br /> Alberto Cañas, the Institute for Human and Machine Cognition<br /> <br /> Simone Conceição, University of Wisconsin-Milwaukee<br /> <br /> Joel Mintzes, California State University<br /> <br /> Joseph Novak, Cornell University<br /> <br /> ==中心外联团队==<br /> 北京都云科技有限公司　葛毅（中心联席主任，负责外联团队）<br /> <br /> 宁德时代新能源科技有限公司　黄思应<br /> <br /> 曲速未来人工智能技术(广州)有限公司 侯欣杰<br /> <br /> 北京我知科技有限公司　李峻<br /> <br /> 北京快当图文制作有限公司 马海明<br /> <br /> 智象爱科（北京）信息技术有限公司　王沫<br /> <br /> 浙江有进步信息科技有限公司　魏雷<br /> <br /> 成都正载教育科技有限公司 姚敏<br /> <br /> 北京读书人网络科技有限公司　张鹿<br /> <br /> =致谢=<br /> <br /> ==中心感谢以下单位的科研经费支持==<br /> 北京师范大学系统科学学院<br /> <br /> 国家重点研发计划“变革性技术关键科学问题”重点专项<br /> <br /> ==中心感谢以下单位的科研和运行经费捐助==<br /> 宁德时代新能源科技有限公司：捐助汉字结构和汉字理解型学习研究<br /> <br /> 北京都云科技有限公司：捐助中心研究和运行经费　<br /> <br /> 浙江有进步信息科技有限公司：捐助中心研究和运行经费<br /> <br /> ==中心感谢以下合作研究和开发单位==<br /> <br /> 智象爱科（北京）信息技术有限公司：合作开发Lynkage软件，合作制作理解型学习课程<br /> <br /> 北京读书人网络科技有限公司：合作制作理解型学习课程<br /> <br /> 北京快当图文制作有限公司（马海明）：汉字本义图片制作<br /> <br /> ==中心感谢以下实验学校和实验教师==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5282 2020-12-14T12:37:45Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依存关系树的子结构信息。本文在以下几个方面进行了改进：通过神经网络语言模型进行半监督学习；表示词向量时利用CNN进行字符级编码；利用从现有知识库中提取的索引词典标记实体特征；通过模型集成优化模型。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==<br /> [[文件:AI2-system 概念地图.png|1150px]]</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5281 2020-12-14T12:34:57Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依存关系树的子结构信息。本文在以下几个方面进行了改进：通过神经网络语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==<br /> [[文件:AI2-system 概念地图.png|1150px]]</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5280 2020-12-13T08:24:46Z

<p>Qiaoxizi：/* 概念地图 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经网络语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==<br /> [[文件:AI2-system 概念地图.png|1150px]]</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5279 2020-12-13T08:24:31Z

<p>Qiaoxizi：/* 概念地图 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经网络语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==<br /> [[文件:AI2-system 概念地图.png|1100px]]</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5278 2020-12-13T08:24:24Z

<p>Qiaoxizi：/* 概念地图 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经网络语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==<br /> [[文件:AI2-system 概念地图.png|1000px]]</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5277 2020-12-13T08:23:59Z

<p>Qiaoxizi：/* 概念地图 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经网络语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==<br /> [[文件:AI2-system 概念地图.png|1200px]]</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E6%96%87%E4%BB%B6:AI2-system_%E6%A6%82%E5%BF%B5%E5%9C%B0%E5%9B%BE.png&diff=5276 2020-12-13T08:12:24Z

<p>Qiaoxizi：Qiaoxizi上传文件:AI2-system 概念地图.png的新版本</p> <hr /> <div></div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E6%96%87%E4%BB%B6:AI2-system_%E6%A6%82%E5%BF%B5%E5%9C%B0%E5%9B%BE.png&diff=5275 2020-12-13T08:10:37Z

<p>Qiaoxizi：Qiaoxizi上传文件:AI2-system 概念地图.png的新版本</p> <hr /> <div></div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E6%96%87%E4%BB%B6:AI2-system_%E6%A6%82%E5%BF%B5%E5%9C%B0%E5%9B%BE.png&diff=5274 2020-12-13T08:08:46Z

<p>Qiaoxizi：</p> <hr /> <div></div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5273 2020-12-13T08:08:36Z

<p>Qiaoxizi：/* 概念地图 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经网络语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==<br /> [[文件:AI2-system 概念地图.png]]</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5272 2020-12-13T07:42:25Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经网络语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5271 2020-12-13T07:40:37Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体-关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5270 2020-12-13T07:29:47Z

<p>Qiaoxizi：/* 相关资料 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system细节讲解]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5269 2020-12-13T07:29:32Z

<p>Qiaoxizi：/* 相关资料 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> ==相关资料==<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5268 2020-12-13T07:29:17Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> ==相关资料==<br /> ----<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5267 2020-12-13T07:28:20Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> ----<br /> *原始模型：[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]<br /> *论文原文（改进模型）：[https://www.aclweb.org/anthology/S17-2097.pdf The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction]<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5266 2020-12-13T04:00:17Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf AI2_system]<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5265 2020-12-13T03:59:56Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> *组会分享ppt：[http://www.bigphysics.org/images/6/6c/AI2_system.pdf]<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5264 2020-12-13T03:59:15Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> *组会分享ppt：[[文件:AI2 system.pdf]]<br /> [http://www.bigphysics.org/images/6/6c/AI2_system.pdf]<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E6%96%87%E4%BB%B6:AI2_system.pdf&diff=5263 2020-12-13T03:56:37Z

<p>Qiaoxizi：</p> <hr /> <div></div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5262 2020-12-13T03:56:24Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> *组会分享ppt：[[文件:AI2 system.pdf]]<br /> <br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5261 2020-12-13T03:55:29Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> *组会分享ppt：[[媒体文件:范例.ogg]]<br /> <br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E6%96%87%E4%BB%B6:Schematic_diagram_of_the_model.png&diff=5260 2020-12-13T03:52:38Z

<p>Qiaoxizi：Qiaoxizi上传文件:Schematic diagram of the model.png的新版本</p> <hr /> <div></div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E6%96%87%E4%BB%B6:Schematic_diagram_of_the_model.png&diff=5259 2020-12-13T03:50:36Z

<p>Qiaoxizi：</p> <hr /> <div></div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5258 2020-12-13T03:50:27Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.png]]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5257 2020-12-13T03:48:37Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> [[文件:Schematic diagram of the model.jpg]]<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5256 2020-12-13T03:46:02Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> *'''概述'''：这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5255 2020-12-13T03:42:49Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> *'''缺点'''：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5254 2020-12-13T03:42:25Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> <br /> 缺点：考虑到模型的复杂度和计算效率，本文将两个模型单独训练，实体与关系的抽取还是存在先后性，两个任务并不是完全同步进行的。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5253 2020-12-13T03:37:52Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> * '''小结'''<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5252 2020-12-13T03:37:39Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> * '''小结‘’‘<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5251 2020-12-13T03:37:14Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * '''任务'''：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * '''Entity model'''<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * '''Relation model'''<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5250 2020-12-13T03:36:37Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * __Entity model__<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * Relation model<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5249 2020-12-13T03:36:29Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * _Entity model_<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * Relation model<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5248 2020-12-13T03:26:31Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * Entity model<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> * Relation model<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。对照Wikipedia和freebase两个公开知识库的索引，对实体的类别进行标注；对于给定的一对实体，通过计算输入的二进制特征，以标记实体对是否与每个索引词典匹配。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5247 2020-12-13T03:22:01Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * Entity model<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> <br /> * Relation model<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5246 2020-12-13T03:21:37Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> # 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> # 模型描述：<br /> * Entity model<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> <br /> * Relation model<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对依存关系树中左右实体head之间的最短路径进行编码，每个节点上LSTM层的输入由四部分拼接得到。同时对顺序路径（两个实体之间的单词）进行编码。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5245 2020-12-13T03:05:54Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> # 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> # 模型描述：<br /> * Entity model<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> <br /> * Relation model<br /> 给定一对实体的跨径及其类型，该模型通过将关系的上下文相关表示传递到tanh层中，然后通过softmax层来预测标签，从而预测两个实体之间的关系。通过将实体类型嵌入和基于序列标记模型的隐藏层输出连接起来，以此表示左实体和右实体。使用双向BiLSTM层对左右实体的首部之间的依存关系树中的最短路径进行编码。 依赖路径中每个节点上LSTM层的输入将四个组件连接起来：<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5244 2020-12-13T02:13:58Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> # 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> # 模型描述：<br /> * Entity model<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> <br /> * Relation model<br /> 给定一对实体提及范围及其实体类型，该模型通过将关系的上下文相关表示传递到密集的tanh层中，然后通过softmax层来预测标签，从而预测两个提及之间的关系<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5243 2020-12-13T02:13:36Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> # 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> # 模型描述：<br /> * Entity model<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。<br /> <br /> 利用 BiLSTM 作为序列编码器来捕捉上下文的信息，得到的输出则是 BiLSTM 在同一个时刻两个方向上的输出 。<br /> <br /> 将实体识别任务看作是一个序列标注任务，实体标签采用 BILOU(Begin, Inside, Last, Outside, Unit) 的标注方式，而实体类别接续在实体标签之后。BiLSTM层输出的分数将作为CRF层的输入，类别序列中分数最高的类别就是预测的最终结果。<br /> <br /> * Relation model<br /> 给定一对实体提及范围及其实体类型，该模型通过将关系的上下文相关表示传递到密集的tanh层中，然后通过softmax层来预测标签，从而预测两个提及之间的关系<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5242 2020-12-13T02:02:20Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> # 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> # 模型描述：<br /> * Entity Model<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。<br /> <br /> 利用神经网络语言模型BiLSTM来捕捉上下文的信息。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5241 2020-12-13T02:01:52Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * 模型描述：<br /> # Entity Model<br /> 将预训练的GloVe词向量和利用CNN得到的字符级编码的词向量拼接起来，作为模型中输入的词向量。<br /> <br /> 利用神经网络语言模型BiLSTM来捕捉上下文的信息。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5240 2020-12-13T01:55:11Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * 任务：从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> * 模型描述：<br /> # Entity Model<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5239 2020-12-13T01:52:04Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> * 任务：<br /> 从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> *<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5238 2020-12-13T01:50:47Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> 原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> # 任务：<br /> 从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> #<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5237 2020-12-13T01:50:24Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。原始模型采用了端到端的神经网络结构来进行建模，通过在双向序列LSTM-RNNs上叠加双向树型结构LSTM-RNNs来捕获单词序列和依赖树的子结构信息。本文在以下几个方面进行了改进：通过神经语言模型进行半监督学习；字符级编码；利用从现有知识库中提取的索引词典；模型集成。<br /> # 任务：<br /> 从科研论文中识别实体类型（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> #<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5236 2020-12-13T01:37:27Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> # 任务：<br /> 从科学论文中识别实体（Task / Material / Process）以及抽取实体关系（ Hyponym-of / Synonym-of）<br /> <br /> == 概念地图 ==</div>

Qiaoxizi https://www.bigphysics.org/index.php?title=%E5%88%86%E7%B1%BB:The_AI2_system_at_SemEval-2017_Task_10_(ScienceIE):_semi-supervised_end-to-end_entity_and_relation_extraction&diff=5235 2020-12-13T01:31:09Z

<p>Qiaoxizi：/* 总结和评论 */</p> <hr /> <div>[[Category:文献讨论]]<br /> [[分类:AllenAI系列科学学文章]]<br /> [[分类:概念抽取和概念关系挖掘]]<br /> <br /> Waleed Ammar, Matthew E. Peters, Chandra Bhagavatula, R. Power, The AI2 system at SemEval-2017 Task 10 (ScienceIE): semi-supervised end-to-end entity and relation extraction<br /> <br /> == Abstract ==<br /> This paper describes our submission for the ScienceIE shared task (SemEval2017 Task 10) on entity and relation extraction from scientific papers. Our model is based on the end-to-end relation extraction model of Miwa and Bansal (2016) with several enhancements such as semi-supervised learning via neural language models, character-level encoding, gazetteers extracted from existing knowledge bases, and model ensembles. Our official submission ranked first in end-to-end entity and relation extraction (scenario 1), and second in the relation-only extraction (scenario 3). <br /> <br /> == 总结和评论 ==<br /> <br /> 这篇文章基于对经典的end-to-end 实体关系联合抽取模型（见论文[http://de.arxiv.org/pdf/1601.00770 End-to-End Relation Extraction using LSTMs on Sequences and Tree Structures]）的改进，实现了一些科学论文中的概念和关系提取算法。<br /> <br /> == 概念地图 ==</div>

Qiaoxizi