常州高端网站制作公司排名,重庆造价信息价查询,95598网站服务建设,东莞网站制作很好 乐云践新论文链接#xff1a;https://www.aaai.org/ocs/index.php/AAAI/AAAI18/paper/download/16369/16011发表会议#xff1a;AAAI 2018摘要知识图谱表示学习旨在将实体和关系嵌入到向量空间#xff0c;同时保留知识图谱的内在结构。传统方法主要基于关系三元组学习知识图谱的嵌入… 论文链接https://www.aaai.org/ocs/index.php/AAAI/AAAI18/paper/download/16369/16011发表会议AAAI 2018摘要知识图谱表示学习旨在将实体和关系嵌入到向量空间同时保留知识图谱的内在结构。传统方法主要基于关系三元组学习知识图谱的嵌入表示。本文认为知识图谱中的逻辑规则对于表示学习也很有帮助于是提出了一个新的表示学习模型RUGE (Rule-Guided Embedding)。RUGE的主要特点是利用从知识图谱自动抽取的规则迭代地预测未标记三元组并将其加入训练来增强表示学习。方法介绍RUGE框架如下图所示。与传统方法不同该模型除了利用labeled三元组还同时引入了unlabeled三元组和逻辑规则。RUGE利用自动抽取的规则生成带有置信度的unlabeled三元组并加入训练。整个过程是迭代的基于嵌入表示为unlabeled三元组计算soft label然后利用soft label进行表示学习。1. 学习资源a) soft规则带有置信度的FOL规则。对于规则格式举个例子∀x, y :(x, rs, y) ⇒ (x, rt, y)表明具有关系 rs 的两个实体也具有关系 rt。b) labeled 三元组正例三元组标记为1反例三元组标记为-1。传统方法主要利用这些 labeled 三元组进行表示学习。c) unlabeled 三元组本文中的 unlabeled 三元组特指利用规则和已知三元组可以推导出的三元组。其中soft规则可以利用开源系统如AMIE自动地从知识图谱中抽取。将soft规则中的变量替换为具体的实体我们可以获得规则groundings。比如基于规则∀x, y :(x,BornInCountry, y) ⇒ (x, Nationality, y)我们可以得到规则grounding(EmmanuelMacron, BornInCountry, France) ⇒ (EmmanuelMacron,Nationality, France)。本文只考虑那些前件是labeled三元组的规则groundings这些groundings的后件三元组就是unlabeled三元组。2. 三元组和规则建模对于三元组建模本文采用现有模型 ComplEx [2]三元组的真值可以直接计算得到。对于规则建模也就是建模规则 groundings 的真值本文采用 T-norm fuzzy logics [3]规则的真值等于其三元组真值的逻辑组合。用 表示的真值那么。这个地方非常巧妙通过这个公式规则和三元组结合在了一起并且我们可以基于规则真值来计算 unlabeled 三元组的真值。3. 弱标记预测至此一方面我们可以基于嵌入表示来计算 labeled 和 unlabeled 三元组的“真值”用表示另一方面也可以基于规则 groundings 的真值来计算三元组的实际真值即本文所指的 soft label用表示。本文希望这两个真值应该是接近的且应当使得规则 groundings 为真。于是文本定义如下优化目标其中第一个方框是两个真值的均方误差是最小化的目标。第二个方框是一个约束条件希望 groundings 的真值为1置信度是。4. 表示学习矫正基于上一步我们得到了unlabeled三元组的soft label。结合labeled三元组本使用logistics loss进行统一优化如下实验结果本文的主要实验任务是传统的关系预测。数据集采用了FB15K和YAGO37. 实验结果如下表所示。我们可以看见RUGE相比对比方法取得了较好的结果。参考[1] Shu Guo, Quan Wang, Lihong Wang, Bin Wang, Li Guo: Knowledge Graph Embedding With Iterative Guidance From Soft Rules. AAAI 2018: 4816-4823[2] Théo Trouillon, Johannes Welbl, Sebastian Riedel, Éric Gaussier,Guillaume Bouchard: Complex Embeddings for Simple Link Prediction. ICML 2016:2071-2080[3] H´ajek, P. The metamathematics offuzzy logic. 1998 论文笔记整理孙泽群南京大学博士生研究方向为知识图谱、知识融合。 OpenKG.CN中文开放知识图谱简称OpenKG.CN旨在促进中文知识图谱数据的开放与互联促进知识图谱和语义技术的普及和广泛应用。转载须知转载需注明来源“OpenKG.CN”、作者及原文链接。如需修改标题请注明原标题。 点击阅读原文进入 OpenKG 博客。
