做网站送给女友意义,平面设计网站知乎,长沙 做网站,莱芜都市人才网论文笔记整理#xff1a;陈名杨#xff0c;浙江大学直博生。Introduction知识图谱#xff08;KGs#xff09;在很多NLP的下游应用中起着越来越重要的作用。但是知识图谱常常是不完整的#xff0c;所以解决知识图谱补全的任务也非常重要。主要有三种方法来完成知识图谱补全… 论文笔记整理陈名杨浙江大学直博生。Introduction知识图谱KGs在很多NLP的下游应用中起着越来越重要的作用。但是知识图谱常常是不完整的所以解决知识图谱补全的任务也非常重要。主要有三种方法来完成知识图谱补全的任务基于规则Rule-Based的方法基于潜入Embedding-Based的方法和基于路径Path-Based的方法。、当前也有一些工作考虑使用深度强化学习来解决预测缺失链接的问题例如DeepPath是第一个将深度强化学习引入知识图谱推理的工作。但该工作也有很多缺陷第一DeepPath缺少memory相关的部分导致需要一定的监督学习进行与训练该预训练可能导致模型过拟合第二对不同的关系都使用相同的超参数并没有考虑实体间多样性的链接第三当agent选择了一条无效的路径后会停下来并重新选择这样会导致持续选择无效路径最终被困在一个节点。本文提出了一个新的使用模型AttnPath来解决上面提到的问题该模型使用LSTM和图注意力机制作为memory部分从而不需要预训练提出了两个度量MSR和MRR提出了一定的机制使得agent每一步都向前走从而不会被困在某一个点。 Method (AttnPath) 因为该方法使用强化学习作为训练方法所以先介绍该方法强化学习的框架环境Environment整个知识图谱除了当前正在query的关系和其反关系状态Stateagent的state由三部分连接而成分别是嵌入部分LSTM部分和图注意力部分a) 嵌入部分。类似于DeepPath本文的嵌入部分包含了当前节点的嵌入以及target节点嵌入减去当前节点的嵌入区别于DeepPath使用TransE作为嵌入方法这里使用TransD作为嵌入方法把每个节点的嵌入映射到当前query的关系的相关平面上。则嵌入部分的 M_t 表示如下 b) LSTM部分。这里使用一个三层的LSTM来对agent之前走过的路径进行编码 c) 图注意力部分。对于每一个entity都有不同的方面也就是说希望agent可以更多关注和当前query有关的关系和邻居节点因此引入来GAT对一个节点的周围节点采用不同的权重并且相加如下所以最终的状态表示如下3. 动作Action在KG推理的任务中动作指的是agent选择一个关系然后前进一步。动作也分为有效和无效有效指的是在当前的节点中有这样的关系从该节点出去反之亦然4. 奖励Reward奖励是对agent的反馈根据选择的relation是否是有效的以及一系列的动作是否能走到最终真正的尾实体 整个过程的优化使用REFORENCE算法更新参数如下AttnPath的模型如下所示 Mean Selection / Replace Rate对于不同的关系需要悬链不同的模型但是不同关系的困难程度不同也就是说有些关系有较多的替代关系agent可以很容易的找到一条替代的路径从头实体走到尾实体。这里提出两个度量方法MeanSelection Rate和Mean Replacement Rate来度量每个关系的困难程度。对于关系r的Mean Select RateMSR表示如下MSR越低表示r越难学习因为连接r的实体有很多的方面aspect也就说对于这些entityr只是其中的一小部分。 对于关系的MeanReplacement RateMRR表示如下MRR越高表示这个当前的关系有更多的可以替代的relation所以更容易学习到一个新的路径因为agent可以直接选一个替代的relation到达尾实体。 在本文中对于学习起来有不同难易程度的关系采用不同程度的正则化。例如对于具有比较高的MSR和MRR的关系因为学习起来比较容易则采用更多的正则化来防止过拟合反之亦然。 ExperimentsFact PredictLink Prediction OpenKG开放知识图谱简称 OpenKG旨在促进中文知识图谱数据的开放与互联促进知识图谱和语义技术的普及和广泛应用。点击阅读原文进入 OpenKG 博客。
