Abstract

GCNs最近在对图结构的数据建模中取得了巨大的成功,然而最初是处理简单的无向图,而多关系tu是一种更普遍的形式,每个边都有一个label和一个与之连接的方向。目前处理这种图的大部分方法都饱受过参数化和局限于仅对结点的表示学习。在这篇论文中我们提出了COMPGCN,在关系图中同时考虑了结点和关系嵌入的新型图卷积框架。COMPGCN利用了来自知识图嵌入技术的各种实体关系组合操作,并根据关系的数量进行缩放。它还概括了几种现有的多关系GCN方法。我们评估我们提出的方法在多种任务上:结点分类,链接预测和图分类,取得了明显优异的效果,我们提供COMPGCN的源代码以促进可重复的研究。

1. Introduction

图是最有表达能力的数据结构之一,可以用于多种问题进行建模,传统的神经网络结构如卷积神经网络和循环神经网络只能用于处理欧氏距离的数据,最近图卷积神经网络被提出来克服这个缺点,并且已经在社交网络、知识图谱、NLP、药物发现、晶体性能预测和自然科学等几大领域被成功应用。
然而现存的对GCNs的研究都是聚焦在在简单的无向图中结点的表示学习中,而大部分图,随处可见的都是多关系的图神经网络,很明显的一个例子就是知识图谱。目前处理这种图的大部分方法都饱受过参数化和局限于仅对结点的表示学习。因此,上述方法不能直接应用到链接预测那些需要关系向量的任务中。一开始在对关系的表示学习中的工作在结点分类和神经机器翻译中取得了一些效果。
目前也有一些对于KGE(知识图谱嵌入)方面的扩展研究,同时考虑了结点和关系的表示学习,但是这些方法主要是用于做链接预测的嵌入。即使GCNs可以从特定任务比如分类中学习,但是它的应用已经很大程度上被限制到非关系图的设定上。因此,就需要一个框架利用KG embedding的方法来学习特定任务的结点和关系的embedding。在这篇论文中,我们提出了COMPGCNS,一个新的GCN框架可以系统的利用来自KG embedding方法的各种实体关系的组合操作来处理多关系图问题。COMPGCN通过同时学习图中结点和关系的向量表示克服了先前GCN模型的缺点。
贡献如下:

  • 我们提出了COMPGCNS,一个新的GCN框架可以系统的利用来自KG embedding方法的各种实体关系的组合操作来处理多关系图问题,并且同时学习图中结点和关系的向量。
  • COMPGCN框架包含了集中现存的多关系图卷积神经网络方法,并且能够跟随图的关系的规模进行缩放
  • 通过扩展实验,在结点分类、链接预测、图分类等任务上我们证明了我们提出的方法的有效性。

2. Related work

GCNs

现存的大部分工作都是看作follow Message Passing Neural Networks(MPNN)(Gilmer at al.,2017)
ICLR2020: Composition-based multi-relational  graph convolutional networks - 图1
ICLR2020: Composition-based multi-relational  graph convolutional networks - 图2
ICLR2020: Composition-based multi-relational  graph convolutional networks - 图3
ICLR2020: Composition-based multi-relational  graph convolutional networks - 图4
ICLR2020: Composition-based multi-relational  graph convolutional networks - 图5 ICLR2020: Composition-based multi-relational  graph convolutional networks - 图6

ICLR2020: Composition-based multi-relational  graph convolutional networks - 图7 ICLR2020: Composition-based multi-relational  graph convolutional networks - 图8

image.png
ICLR2020: Composition-based multi-relational  graph convolutional networks - 图10
ICLR2020: Composition-based multi-relational  graph convolutional networks - 图11

GCNs for Multi-Relational Graph:

把GCNs用到关系图上第一次是被 Protein interface prediction using graph convolutional networks.2017
当时仅仅考虑到特定方向的filters,并且由于过参数化忽略了关系。

KGE

KGE是一个广泛的学习领域,并且应用很广在链接预测、问答等领域。大部分KGE方法都是定义一个得分函数,然后训练结点和关系嵌入,有效的三元组的得分是比无效的三元组得分更高的。基于得分函数的类型,KGE模型被分为翻译模型、语义匹配模型和神经网络模型。我们的工作中使用这三种类型的得分函数来在链接预测任务上评估COMPGCN的性能。

3. Background

4. CompGCN Details

5. Experimental Setup

5.1 Evaluation tasks

5.2 Baselines

R-GCN

Modeling Relational Data with Graph Convolutional Networks Schichtkrull et al. 2017
_

王增志+武汉工程大学+Composition-based multi-relational graph convolutional networks.pptx