历华毛子种枝大学 图神经网络 XIDIAN UNIVERSITY 1.图神经网络简介 2.图神经网络的种类 3.图卷积网络 2
1.图神经网络简介 2.图神经网络的种类 3. 图卷积网络 图神经网络 2
面些毛子种枝大票 1.图神经网络简介 XIDIAN UNIVERSITY 图神经网络是处理图数据的神经网络 深度学习在很多领域的成功部分归功于: ●计算资源的快速发展(GPU); ●大规模训练数据集的获取; ●深度学习对欧式数据(图像、视频、文本)的隐含表示的提取能力 ■ 然而,有大量的数据是非欧式的,图数据是非欧式的,因为图数据是非规 则的,节点的排列是无序的,每个节点的邻居数量也不同。这就导致在图 像数据上很好用的模型操作,比如卷积,无法直接用在图数据上。 传统机器学习一般都假定数据点之间是相互独立的,而图中的数据点(节 点)不是独立的,与其他节点存在各种以边描述的各种关系
1. 图神经网络简介 3 图神经网络是处理图数据的神经网络 深度学习在很多领域的成功部分归功于: 计算资源的快速发展(GPU); 大规模训练数据集的获取; 深度学习对欧式数据(图像、视频、文本)的隐含表示的提取能力 然而,有大量的数据是非欧式的,图数据是非欧式的,因为图数据是非规 则的,节点的排列是无序的,每个节点的邻居数量也不同。这就导致在图 像数据上很好用的模型操作,比如卷积,无法直接用在图数据上。 传统机器学习一般都假定数据点之间是相互独立的,而图中的数据点(节 点)不是独立的,与其他节点存在各种以边描述的各种关系
历安毛子代枚大等 1.图神经网络简介 XIDIAN UNIVERSITY 怎样把深度学习方法扩展到图数据? ●卷积神经网络、递归神经网络、深度自编码器拓展设计成图 神经网络 ●比如图卷积操作。一个2维的图像卷积操作,一个像素点的 值是对其周围被滤波器大小划定的区域取加权平均,其邻居 的数量是固定的、有序的。扩展到图卷积以后,图卷积是对 每个节点及其邻居的特征值取平均,每个节点的邻居数量不 固定,也无序
1. 图神经网络简介 4 怎样把深度学习方法扩展到图数据? 卷积神经网络、递归神经网络、深度自编码器拓展设计成图 神经网络 比如图卷积操作。一个2维的图像卷积操作,一个像素点的 值是对其周围被滤波器大小划定的区域取加权平均,其邻居 的数量是固定的、有序的。扩展到图卷积以后,图卷积是对 每个节点及其邻居的特征值取平均,每个节点的邻居数量不 固定,也无序
面些毛子种枝大学 2.图神经网络的种类 XIDIAN UNIVERSITY ① 循环图神经网络(recurrent GNNs(RecGNNs)) 循环图神经网络假定节点总是和自己的邻居节点交换信息、消息等,直到到 达一个稳定的平衡点,以此来学习目标节点的表示。这种方式计算复杂性较 高,目前关于这种方法的改进也主要集中于这个方向。循环神经网络研究的 比较早,对后面的的卷积神经网络有重要的启发,基于空间的神经网络也继 承了消息传递的方法
2. 图神经网络的种类 5 ① 循环图神经网络(recurrent GNNs (RecGNNs)) 循环图神经网络假定节点总是和自己的邻居节点交换信息、消息等,直到到 达一个稳定的平衡点,以此来学习目标节点的表示。这种方式计算复杂性较 高,目前关于这种方法的改进也主要集中于这个方向。循环神经网络研究的 比较早,对后面的的卷积神经网络有重要的启发,基于空间的神经网络也继 承了消息传递的方法
历些毛子代枝大皇 2.图神经网络的种类 XIDIAN UNIVERSITY ②卷积图神经网络(convolutional GNNs) 受到卷积神经网络在计算机视觉领域巨大成功的影响,很多学者定义了 不同的图卷积操作以处理图数据,这类图神经网络称为图卷积网络( GCNs)。卷积图神经网络将格点数据上的卷积操作推广到了图数据上, 主要的思路就是通过整合一个节点y,的特征x,以及它的所有邻居y,( y,∈「(),「()表示节点v邻居集合)的特征来得到这个节点的表达。与循 环神经网络不同的是,图卷积网络通常有多个卷积层以提取高阶的节点 表达。许多复杂的图神经网络模型都包含有多个图卷积层,比如用于节 点分类的图神经网络,用于图分类的图神经网络。 ·图卷积网络主要有两个方向:基于谱的图卷积网络和基于空间的图卷积 网络
2. 图神经网络的种类 6 ② 卷积图神经网络(convolutional GNNs ) • 受到卷积神经网络在计算机视觉领域巨大成功的影响,很多学者定义了 不同的图卷积操作以处理图数据,这类图神经网络称为图卷积网络( GCNs)。卷积图神经网络将格点数据上的卷积操作推广到了图数据上, 主要的思路就是通过整合一个节点vi的特征xi以及它的所有邻居vj( vj∈Г(i), Г(i)表示节点vi邻居集合)的特征来得到这个节点的表达。与循 环神经网络不同的是,图卷积网络通常有多个卷积层以提取高阶的节点 表达。许多复杂的图神经网络模型都包含有多个图卷积层,比如用于节 点分类的图神经网络,用于图分类的图神经网络。 • 图卷积网络主要有两个方向:基于谱的图卷积网络和基于空间的图卷积 网络