Press "Enter" to skip to content

论文浅尝 | 动态知识图谱对齐

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

 

论文笔记整理:谭亦鸣,东南大学博士生

 

来源:AAAI‘21

 

链接:https://ojs.aaai.org/index.php/AAAI/article/view/16585

 

概述

 

本文提出了一种动态图谱(KG)对齐方法,在“动态”(即图谱可能随时间更新)的设定下,作者认为该任务的难点在于实体embedding的更新,因为KG更新后拓扑结构也会随之变化,而实体embedding与图谱结构高度相关。所提方法DINGAL-系列的核心思路是将KG表示学习使用的GCN参数矩阵视作特征转换操作,从而减少转换和聚合过程间的耦合。在与现有的14个方法在DBP15K数据集上的对比结果表明,论文方法取得不错性能,且提升了对齐速度。

 

背景与动机

 

 

这篇论文定义的实体对齐任务目标是将不完整的KG之间通过建立链接,获得一个完整KG的过程(如图1)。作者表示,现有对齐方法普遍假定KG是静态的,而事实上KG应该是处于一个更新和发展的过程中。基于此,论文提出了一个扩展的对齐任务:动态图谱对齐。

 

贡献

 

作者总结其贡献如下:

 

1. 定义了动态图谱对齐问题,并第一个展开研究 2. 提出了新的算法,DINGAL系列,包括DINGAL-B(静态对齐)和GINGAL-O以及GINGAL-U面向动态对齐 3. 实验对比现有14种对齐模型取得了性能超越,并且系列算法取得了更快的运行速度

 

方法

 

 

图2给出了本文算法的描述,B算法用最初KG得到embedding,O和U的主要区别在于O沿用了B算法预训练参数对图谱更新后受到影响的节点作表示学习。而U则使用了一个全新的锚链接来更新参数。

 

图3给出了传统GCN过程,一个聚合-再-转换的函数。节点首先聚合它的邻居特征,然后这些特征通过一个线性转换矩阵投影到隐空间。

 

 

在传统方式下随KG结构变化来动态更新图谱embedding要求变化最好只发生在受影响的一小部分节点上。解决方向在于切断图谱拓扑结构与GCN参数矩阵之间的耦合。

 

 

作者首先将节点嵌入矩阵通过线性转换投影到一个隐空间,然后基于L聚合邻居节点的特征。DINGAL-B的流程如图4所示,对于任一实体的输入特征X,首先进入一个拓扑不变mask门M(公式2),该公式表示Hadamard乘积,用于确定特征不同维度的重要性(类似注意力机制)。

 

接着mask门的输出被输入到一个GCN层(公式3)

 

 

同时这个GCN层输出和mask门的输出一同输入到highway门(公式4)

 

 

最终网络的输出为:

 

 

接着使用以下的公式来衡量两个节点的距离:

 

 

对于DINGAL-O,首先保留了B方法的所有参数,在动态更新中更新那些受到影响的实体embedding。单跳受影响实体被定义为新实体(新增实体)和老实体(增加删除边操作),不考虑删除的实体,因为它们不参与动态对齐。图5给出了一个受影响节点划定的例子。

 

 

在O方法中,受影响更新的实体embedding的获取方式如公式8:

 

 

La表示局部拉普拉斯矩阵,来自全局L矩阵,La的范围由受影响的一跳邻居的size决定。

 

实验

 

实验使用的数据集是DBP15K,包含三种语言对,覆盖15K预对齐实体。

 

静态实验还是沿用DBP15K的常规切分测试集

 

动态实验,作者随机将DBP15K里的对齐对切分为三个动态时间步。在对于开始时间t0,KG移除3000个对齐的实体对以及链接到它们的边。对于任何不属于ground-truth的实体,如果它由于时间的变化而成为一个孤立的实体,它就会被删除。在时间步t1,1500个对齐的对以及与其链接的孤立实体将在t0被添加到KG对,这将在时间步t1形成新的KG对。

 

数据集评价指标为[email protected][email protected]

 

主要实验结果如下:(表1消融分析,w/o highway门,mask门,以及单层网络的效果),从结果看起来highway门是性能提升的主要原因

 

 

表2和3是动态对齐实验结果

 

 

 

作者也给出了结果,论述实验时间效率上所提方法相比已有方法有明显效率提升。

 

Be First to Comment

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注