Press "Enter" to skip to content

知识图谱推理的最新研究进展

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

 

文章作者:费斌杰 熵简科技 创始人兼CEO

 

内容来源:熵简科技

 

导读: 业界和学界对知识图谱的关注主要集中于两大领域,分别是 知识图谱的构建 和 知识图谱的应 用 。 前者聚焦于通过对结构化、非结构化数据的整合,实现统一形式的数据存储; 后者则着眼于通过算法对海量知识图谱数据进行学习与挖掘,从而推理出新的知识,服务于具体行业应用。 知识图谱推理在其中发挥了重要作用,被誉为 知识图谱领域的皇冠 。 本文聚焦于知识推理的理论研究和产业实践,剖析知识图谱推理的前世今生以及最新研究进展,以飨读者 。

 

01

 

演绎推理与归纳推理

 

,是运用已知的知识来得出未知的知识的过程。按推理方式的不同,可以分为两大类别,分别是演绎推理 ( Deductive Reasoning )、归纳推理 ( Abductive Reasoning )。

 

演绎推理指的是根据严格的逻辑关系,从给定的假设下,得出必然成立的结论。最常见的演绎推理形式有20多种,这里举例说明:

 

肯定前件论:如果今天是周末,那幺我们不上班;今天是周六,所以推理得出我们不上班;

 

否定后件论:如果今天是周末,那幺我们不上班;今天我来上班了,所以推理得出今天不是周末;

 

三段论:如果今天是周末,那幺我们不上班;如果我们不上班,那幺早上可以睡懒觉;所以推断出如果今天是周末,我们早上就可以睡懒觉;

 

二难论:如果是周六,那幺我打球;如果是周日,那幺我看书;假设我不知道今天具体是周几,但是我知道今天肯定是周末,要幺是周六要幺是周日,那幺可以推断出今天我要幺打球要幺看书;

 

德摩根定律:p与q取否等价于非p或非q;p或q取否定等价于非p与非q;

 

除此之外,还有换位率、排中律、吸收率等等。

 

 

图:常见演绎推理形式列举

 

与此相对,归纳推理是指基于已有的部分观察结果,从而推断出一般化结论的过程。归纳推理不能确保推理结果的完全准确,而演绎推理可以。

 

归纳推理有四种推理方向:

 

泛化归纳:把对个体的观察得出的结论推广到整体;

 

简单归纳:把对整体的统计结论应用于个体;

 

溯因归纳:根据观察的结果和现有知识来推断最有可能的原因;

 

类比归纳:根据对一个样本的观察来预测另一个相似样本的结果;

 

归纳推理的集大成者就是着名的贝叶斯推理,其核心思想是:不只通过观察最新一次的实验结果来定概率,而是把这作为一次证据 ( 似然概率 ),来修正历史的先验概率,从而得出一个新的后验概率,如此往复,不断逼近真实概率。

 

 

图:贝叶斯推理示意

 

常见的演绎推理方法有基于描述逻辑的推理、和基于逻辑编程的推理。常见的归纳推理方法有基于图结构的推理、基于规则学习的推理、基于表示学习的推理。下面我们分别展开讨论。

 

02

 

基于描述逻辑的推理

 

描述逻辑 ( Description Logic ),简称DL,是一种用于知识表示的逻辑语言,和知识推理的形式化工具。

 

一个DL系统包含四个组成部分,分别是描述语言、Tbox、Abox、以及基于Tbox和Abox上的推理机制。其中Tbox ( Terminology Box ) 是关于概念和关系的断言,Abox ( Assertion Box ) 是关于个体实例的断言。

 

 

图:描述逻辑组成架构

 

通过Tbox和Abox,我们可以把知识库中复杂的实体关系推理问题转化为一致性的校验问题,从而简化推理实现过程。

 

举个例子,“苹果 ∩ 绿色 = 酸涩”这属于概念断言,放在Tbox中;“我手里现在有10只苹果,其中3只是绿色的“,这属于实体断言,放在Abox中。基于Tbox和Abox,我们可以推理出我手中的苹果里有3只是酸涩的,7只是甘甜的,这属于推理系统。

 

基于描述逻辑的推理体系中,常见的是基于表运算 ( Tableaux ) 的推理,经常被用于检测描述逻辑知识库的一致性。

 

Tableaux算法的核心思想是如果我要证明一个推理是正确的,那我只要列出所有可能存在反例,并且一一驳斥就好了,即只要不存在反例那幺推理就是正确的,所谓归结反驳。

 

Tableaux其实就是一棵公式树,它会根据前提 ( Premises ) 和否定结论 ( Negated Conclusion ) 来不断迭代创建新的分支,对公式进行逐级分解,当所有分支都关闭后,Tableaux算法就会被终止。

 

 

图:Tableaux算法示意

 

目前已经有不少公开的基于表计算的推理系统,如曼彻斯特大学研发的FaCT++、美国Franz公司研发的Racer、马里兰大学研发的Pellet、牛津大学研发的HermiT,其中HermiT实现了Hypertableaux的超表运算技术,进一步提高了Tableaux算法的运算效率。

 

03

 

基于逻辑编程的推理

 

基于逻辑编程的推理方法的主要载体是Datalog语言。Datalog发源于Prolog语言,后者是一门非常与众不同的编程语言,它不是用来开发软件的,而是专门用来解决逻辑问题的。

 

Prolog的全称是Programming of Logic,就是逻辑编程的含义。只需要我们给出规则和事实,它就会自动分析其中的逻辑关系,并且允许用户通过查询的方式来完成复杂的逻辑运算。Prolog语言在早期人工智能研究中有着非常广泛的应用,主要用于专家系统的构建。

 

Datalog是一种基于Prolog并且适应于知识库的改进型语言,是一种受限的Prolog语言,可以看做是Prolog语言的一个子集,它的好处是能够方便的与大型数据库进行交互,是一种完全的声明式语言,便于撰写规则和实现推理。

 

目前最常用的Datalog工具包括德国吉森大学研发的DLV ( Datalog with Disjunction )、由波茨坦大学研发的Clingo、由牛津大学研发的RDFox等。

 

04

 

基于图结构的推理

 

基于图结构推理的典型算法是PRA ( Path Ranking Algorithm ),它利用了实体与实体之间的路径作为特征,从而对链接路径进行统计推理。

 

PRA算法的原理比较明了,假设一张图谱中有三类实体:员工实体、公司实体、行业实体。假设小明是熵简科技的员工,熵简科技是金融科技领域的公司,那幺小明是金融科技领域的从业者。同时小红是启明星辰的员工,启明星辰是信息安全领域的公司,那幺小红是信息安全领域的从业者。

 

通过统计可以发现,“供职于”、“是某某领域的公司”这两种关系组成的路径与“是某某领域的从业者”在图谱中经常出现,而且与员工实体、公司实体、行业实体具体是谁没有关系,因此能够得出一种重要的推理关系。

 

看似这是一个非常简单的直觉化的结论,但是常识恰恰是机器所不具备的能力。PRA算法能够通过对海量知识的学习,让机器从统计意义上掌握常识,从而进行有效的知识推理。

 

05

 

基于规则学习的推理

 

基于规则学习推理的代表算法是AMIE算法,其强调通过自动化的规则学习方法,快速有效的从大规模知识图谱中学习出置信度较高的规则,并且应用于推理任务。

 

这里的重点在于如何对机器学习出的规则进行有效性评估,有三类方法,分别是支持度评估、置信度评估、规则头覆盖度评估,这里以支持度为例进行说明。一个规则的支持度等于在整个知识图谱中满足规则主体和规则头的实例总个数。一个规则的支持度越高,说明在该知识图谱中存在很多符合这条规则的实例,因此从统计意义上来看,这更可能是一条准确的规则。

 

AMIE算法的全称是基于不完备知识库的关联规则挖掘算法 ( Association Rule Mining under Incomplete Evidence )。由于在大规模知识图谱中对所有可能的规则进行遍历及评估是不可行的方法,因此如何对空间进行有效的搜索成为了规则学习任务中的重中之重。

 

AMIE算法通过不断向规则中添加三类挖掘算子 ( Mining Operators ) 的方法来拓展规则主体部分,保留支持度高于阈值的候选闭式规则,这三类挖掘算子分别是悬挂边、实例边、闭合边。

 

悬挂边指的是边的一端是一个未出现过的变量、另一端是在规则中已出现过的变量或变量;

 

实例边指的是边的一端是规则中已经出现过的元素,另一端是一个实例化的实体;

 

闭合边指的是连接两个已经存在于规则中的元素,一旦完成闭合边的添加,规则的构建就算是完成了。

 

06

 

基于表示学习的推理

 

基于图结构的推理和基于规则学习的推理都对推理所需的特征进行了显示定义,而基于表示学习的推理则通过将符号表示映射到向量空间进行数值表示,利用算法在学习知识表示的过程中自动捕捉知识推理所需的特征。

 

基于表示学习的推理受到NLP领域中关于词向量研究的启发,例如大家熟知的vec(King) – vec(Queen) = vec(man) – vec(woman),人们发现词向量具有空间平移性的特征。基于此,人们提出了基于表示学习的推理算法,主要有TransE、TransH、TransR、TransD等算法。这类方法的特点在于能够有效减少维度灾难问题,同时可以捕捉实体和关系之间的隐性关联,计算效率较高。

 

TransE是这一系列算法的鼻祖,全称是Translating Embeddings for Modeling Multi-relational Data。其核心思想在于使得Head向量和Relation向量的和能够尽可能靠近Tail向量。

 

 

实践表明TransE是一种简单高效的知识图谱表示学习方法,能够自动且较好的捕捉推理特征,无需人工设计,非常适合于大规模复杂的知识图谱推理任务。

 

然而Trans也存在瓶颈,按关系头尾实体个数比例划分,知识图谱中的关系可以分为四类:1对1、1对N、N对1、N对N。TransE能够有效捕捉1对1的关系,但对于另外三类情况则无法有效识别。

 

基于此,人们进一步提出了TransH算法,全称是Knowledge Graph Embedding by Translating on Hyperplanes。其核心思想是将关系解释为超平面上的转换操作,每个关系都表示为两个向量,分别是超平面上的范数向量和超平面上的平移向量。

 

 

如果说TransH通过引入超平面有效提升了TransE表达非1对1关系的能力,那幺TransR则是通过拆分实体向量表示空间和关系向量表示空间的方式来提升TransE的表示能力。

 

例如 ( 中国,包含,上海市 ),这里的关系是包含;( 小明,是朋友,小红 ) 的关系是朋友,这两种关系截然不同,把它们放在同一个向量空间中进行表示是不合理的。

 

为了解决这个问题,TransR算法在两个不同的空间,即实体空间和多个关系空间中对实体和关系进行建模,并在对应的关系空间中进行转换。

 

 

TransR有效增强了表示学习的表达能力,但它也有不足之处,其中最明显的问题在于TransR为每个关系引入了一个映射矩阵,使得其参数数量远大于TransE和TransH,因此难以应用于大规模知识图谱。

 

为解决这个问题,人们进一步提出了TransD算法。TransD的核心思想在于用一个实体相关的向量与一个关系相关的向量的外积来动态的求解出映射矩阵。通过动态计算映射矩阵,TransD不仅可以显着降低参数数量,而且增强了全局捕捉能力。

 

 

反过来看,TransE模型是TransR模型中的一个特例,当关系和实体的向量表示维度相等,且所有投影向量都设置为0时,TransR就退化为TransE。

 

07

 

结语

 

知识推理是一门古老的学科,从亚里士多德在《前分析篇》中阐述的经典三段论开始 ( 亚里士多德是人;人都会死;所以亚里士多德会死 ),人们就对知识推理进行了理论探索与实践。

 

随着近年来技术的飞速发展,越来越多的知识图谱自动化构建方法被学界和业界提了出来,比如通过算法对海量文本进行三元组提取,使得大规模知识图谱的构建成为了可能。但这类知识图谱的信息准确度和冗余度都稍逊于通过专家知识进行人工搭建的知识图谱。

 

在这种自动化构建的大规模知识图谱上进行知识推理时,知识的不精确性以及巨大的数据规模对于演绎推理来说是巨大的挑战,而归纳推理则可以发挥更大的价值。

 

近年来,知识图谱领域学术界和产业界的互动越发紧密,随着开源工具Jena、JBoss的推出与普及,知识图谱推理将对现代企业知识图谱应用起到愈发重要的作用。

 

作者信息:

 

费斌杰,熵简科技创始人兼CEO,长期深耕金融资管数据科技一线,对数据中台、知识图谱的技术实践和产业应用有深入理解,曾就职于嘉实基金,毕业于清华大学五道口金融学院、清华大学工业工程系。

 

Be First to Comment

发表评论

电子邮件地址不会被公开。 必填项已用*标注