Press "Enter" to skip to content

一文带你 GNN 从入门到起飞,做一个饭盆最稳 GNN 饭人!

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

​​摘要:本文介绍了图神经网络在学界和业界的发展情况,并给出了图神经网络的基本概念与表示形式,总结了图神经网络的变体,最后介绍了华为云图神经网络框架。

 

本文分享自华为云社区 《干饭人,干饭魂,搞懂图神经网络稳饭盆》 ,原文作者:敏捷的小智。

 

干饭人!2021 年大厂都在用的图神经网络( GNN )还不懂吗?一文带你 GNN 从入门到起飞,做一个饭盆最稳 GNN 饭人!

图神经网络到底图个啥?

 

搞懂图神经网络,首先你要先明白到底图个啥啥是图!图这种结构普遍存在于人类社会生活中,如人与人之间的社交网络会构成图、地铁线路及高铁线路会构成图、网民购买商品会构成“网民-商品”图、互联网中网页间的互相链接会构成图、论文的互相引用也会构成图。根据这些图的信息可以完成很多任务,例如根据用户和商品的历史交互,预测一个用户是否会购买一个商品或对它感兴趣;又如根据用户间的好友关系或交流记录,预测用户和用户之间是否构成好友关系。

 

既然图无处不在,那我们怎幺去对图做分析呢?目前,图分析任务通常采用图嵌入技术进行解决。通过图嵌入技术,可以将图中的结构及内容等信息用一个低维向量进行表征,该向量可以作为输入用于下游的学习任务中。另外,图嵌入还可以与深度学习技术相结合。例如,基于局部连接与平移不变的假设,可以将图嵌入与卷积神经网络(Convolutional Neural Network,CNN)相结合,从而得到图神经网络(Graph neural network,GNN)。

 

图上的学习任务包括:

 

 

图节点分类任务:图中每个节点都有对应的特征,当我们已知一部分节点的类别时,可以对未知类型的节点进行分类。

 

图边结构预测任务:图中节点与节点之间的边关系也存在多种类型,该任务是对节点和节点之间关系的预测。

 

图的分类:该任务是对整个图进行分类,基本思路是将图中节点的特征聚合起来作为图的特征,再进行分类。

 

 

学界业界发展成啥样了?

 

学界发展情况

 

近年来,图神经网络迎来了快速爆发期。在理论研究方面,相关工作对图神经网络的原理解释、变体模型以及对各种图数据的拓展适配等进行了研究。统计近一年各大顶级会议上的相关论文,可以发现图神经网络成为最大的研究热点。

图 2.1 学界发展情况

 

业界发展情况

 

在应用实践方面,图神经网络展现出前所未有的渗透性,从视觉推理到开放性的阅读理解问题,从药物分子的研发到 5G 芯片的设计,从交通流量预测到 3D 点云数据学习,可以看到图神经网络极其广阔的应用前景。

 

蚂蚁金服利用图神经网络模型,挖掘设备共用图中“正常用户”和“骗保团伙”的关系模式,从而实现了对恶意账户的识别。图中每个节点都有自己的特征信息,通过这些特征信息,可以挖掘某一用户节点所关联的设备节点信息,当某一个用户关联众多设备时,可以认为该用户存在高危风险。同时,基于图中的关联关系,与该恶意用户及关联设备相互连接的节点也可能存在高危风险。

图 2.2 蚂蚁金服:高危账户识别

 

滴滴出行研究了一种基于时空多图卷积神经网络的网约车需求量预测模型。通过分析区域之间复杂的时空依赖关系,对网约车需求量进行准确预测,指导车辆的调度,提高车辆的利用率,减少等待时间,并在一定程度上缓解了交通的拥堵。

图 2.3 滴滴出行:车辆调控管理

 

阿里妈妈利用图神经网络,从用户行为日志、内容属性等不同维度挖掘 Query(查询词)、Item(商品)和 Ad(广告)的多种关系。对于在线请求场景,通过计算用户查询词向量、前置行为中节点向量和广告节点向量之间的距离进行高效的向量化最近邻检索,从而快速匹配到符合用户意图的广告并推荐给用户。

图 2.4 :搜索广告 匹配

 

网易音乐通过图神经网络,挖掘用户的特征、歌曲的特征、用户对歌曲的行为特征,实现精准的音乐推荐。图中每个节点都具有结构信息,如果用户频繁订阅某种类别音乐或对某种类别音乐评分较高,那幺系统就可以认定该用户对该类音乐比较感兴趣,就可以向该用户推荐更多该类别的音乐。

图 2.5 网易:音乐推荐

 

图神经网络

 

图论基本概念

 

针对非欧几里得结构化数据表示问题,研究者们引入了图论中抽象意义上的图(Graph)来表示非欧几里得结构化数据。

 

图(Graph) G  由顶点集合以及连边集合构成,通常可以定义为如下形式:

顶点集合( Vertex ) V  可以表示为

边集合( Edge ) E  可以表示为

图的表示形式

 

常采用顶点的度矩阵、邻接矩阵以及拉普拉斯矩阵等对图进行刻画。

 

顶点的度矩阵( Degree ) D  :与该顶点相关联的边的条数

邻接矩阵( Adjacency matrix ) A  :图结构的常用表示方法

拉普拉斯矩阵( Laplacian matrix ) L  :图结构的一种表示方法

下图给出了 连通图及对应 的 度矩阵、邻接矩阵 、 拉普拉斯矩阵 的示例 。

图 3.1 图论基本概念

 

图神经网络模型

 

图嵌入模型

 

图嵌入( Graph Embedding )是指,将图中的节点、边或子图由低维连续向量进行表征。为了得到图嵌入表征,可以利用图中的消息传播机制。图中的消息传播机制包括两个步骤:消息汇聚( aggregation/combine ),节点更新( update )。消息汇聚是指根据周围邻居节点特征,节点更新是指学习中心节点的嵌入表示。图中的消息传播机制可以由下式进行表征。

式中 , □表示可导且与输入顺序无关的函数,例如求和、均值或最大值函数等; γ 和 φ 表示可导函数,例如多层感知器 。

图 3.2 图嵌入模型

 

图卷积神经网络

 

在图卷积神经网络中,层与层之间的传播方式为:

下图为图卷积神经网络的示意图,图卷积神经网络的输入为一张图,通过若干层后节点特征从 X  变为  Z  ,共享中间多个隐层中  A  参数。

图 3.3 图卷积神经网络

 

构造一个两层的图卷积神经网络,激活函数分别采用 ReLU 和 Softmax ,则整体的正向传播的公式为:

最后,根据特征 Z  ,可以做下游任务,如节点分类任务、图分类任务、节点连接预测任务等。

 

图注意力网络

 

注意力机制可以理解成一个加权求和的过程:对于一个给定的 query ,有一系列的 value 和与之一一对应的 key ,那幺如何计算 query 的结果呢?很简单,计算 query 与所有 key 的相似度,然后根据相似度对所有的 value 加权求和。这个相似度就是 attention coefficients ,计算公式如下:

式中, a  为前馈神经网络的权重系数, || 代表拼接操作。

图 3.4 图注意力网络

 

利用注意力机制,可以对图中各节点特征进行更新:

利用多头注意力机制,可以用 K  个权重系数分别对节点特征进行更新:

图 3.5 图注意力网络中的多头机制

 

图注意力网络的优点包括:可以在不同的节点上进行并行计算、可以同时对拥有不同度的节点进行处理、可以对从未见过的图结构进行处理并用于解决归纳学习问题。

 

异质图注意力网络

 

GCN 直接在同质图上操作,并根据其邻域的属性诱导融合得到当前节点的嵌入表示。在同质图中,每层的传播规则如下式所示

在异质网络中,节点有多种类型 T ={τ1, τ2, τ3, …},GCN 不能直接应用于异质网络。为了解决这个问题,可以采用异质图卷积,考虑各种类型信息的异质性,并利用类型相关的变换矩阵将它们投射到公共的隐式空间中。

当给定某特定节点时,不同类型的相邻节点可能对其具有不同的影响,例如,相同类型的相邻节点可能会携带更有用的信息,而相同类型的不同相邻节点也会具有不同的重要性。因此,可以设计一种异质网络的双层注意力机制。

图神经网络平台

 

当前图神经网络平台研发的难点在于缺少统一的算法框架,同时需要提升数据处理的效率。图数据的遍历及其与深度学习的交互会导致图的运算效率大大降低,这也是图深度学习一直无法落地的瓶颈之一。如果想要在性能上有所突破,就需要重新设计一个新的图深度学习框架,以下介绍华为云图神经网络框架。

图 4.1 图注意力网络中的多头机制

 

(1)基于图引擎的 GNN 新框架:在 ModelArts 中高效神经网络训练算子的基础上,结合图引擎服务(Graph Engine Service,简称 GES)既有的高性能图计算框架平台能力,利用图引擎高并发、低延时的特点,将 GNN 的训练过程高度并行化,如将边上的跳转概率估计、顶点邻域采样、负样本构建等,都化解为每个顶点的局部操作;系统提供了动态调度器,让这些局部操作可高度并行化执行,就能极大提升系统的总体吞吐量。

 

(2)多种 GNN 算法框架统一化:使用统一架构实现了非监督的大规模图嵌入(例如 DeepWalk、Node2Vec)和半监督的图卷积(例如 GCN、GraphSAGE)等多类 GNN 算法,降低了系统的维护成本。

 

(3)GNN 与图数据管理一体化:企业级 GNN 应用通常都不会是一次性计算,而且数据规模也很大,因此这些数据必须要被维护和管理起来。而现有的 GNN 通常不具备这种能力,用户只能另建数据库维护,计算的时候再把数据整体导出。不仅资源消耗大,也引入数据一致性等诸多问题。而 GES 采用属性图数据模型(Property Graph)和生态兼容的事实标准 Gremlin 图查询语言进行分布式图数据管理和维护,需要训练的时候则在图引擎内本地调用各类算子,并发执行,降低了端到端的性能损耗。

 

华为云图神经网络借助 ModelArts 的高效神经网络训练优势,以及 GES 的高性能图计算优势,大幅度提升了 GNN 的总体计算效率,以 node2vec 算法为例,在 PPI 数据集上,华为云图神经网络从采样到训练可在 2min 内完成,较传统开源实现提升 20 倍。

 

图神经网络有前途!

 

随着图神经网络研究的热度不断上升,图神经网络的不同变种也不断地涌现出来。此外,由于图神经网络对于非欧空间数据具有良好的表达能力,在电商、金融、、社会科学等有大量数据积淀的交叉领域有着广阔的应用前景。本文介绍了图神经网络在学界和业界的发展情况,并给出了图神经网络的基本概念与表示形式,总结了图神经网络的变体,最后介绍了华为云图神经网络框架。希望本文能为 GNN 道路上的你提供一些参考!

 

Be First to Comment

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注