这个attention就是图中每个node相对于其相邻节点的相互重要性。 图神经网络的两大主要功能是： 节点分类 和图分类。 本文以节点分类来举例。 1. 图数据. 我们先了解一下图数据：一系列带连接的节点，每个节点还有自己的特征。 举个栗子： 上面这个五饼状的东西就是一个无向连接的图数据了。 我们把这个图叫作G，G含有5个节点 (node)，然后每个节点都有其邻节点 (即节点之间有连接 (edge))，除此之外，每个节点还有它的feature (可以是一个数值、向量或者矩阵)。 X=\left\ …

2024年12月26日 · GAT（Graph Attention Networks）是GNN领域一篇非常重要的论文，发表在 ICLR 2018上. 它将注意力机制引入图神经网络领域，使图中的每个节点能够根据其邻居节点的重要性，动态地聚合邻居节点的信息，从而学习到更好的节点表示

图注意力网络 (Graph Attention Networks, GAT) 是对图卷积网络 (Graph Convolutional Network, GCN) 的改进，提出了一种通过自注意力 (self-attention) 过程计算的加权因子，而不是使用静态的归一化系数。在本节中，我们介绍了 GAT 架构。

2023年8月21日 · Based on attention functions, we define three types of attention mechanisms in GNNs including local attention, global attention, and feature fusion attention. Local attention focuses on local neighbors, that is, directly or locally connected neighbors.

提出DAGN模型具有新颖的 graph attention diffusion layer，如图一所示，其主要有两个优势： 在每一层中就能进行 long-range message passing； attention的计算是与context有关的，DAGN通过聚集所有路径上的注意力score来计算注意力; DAGN Multi-hop Attention Diffusion

2019年4月21日 · 图注意力网络 (Graph Attention Networks, GAT) 是对图卷积网络 (Graph Convolutional Network, GCN) 的改进，提出了一种通过自注意力 (self-attention) 过程计算的加权因子，而不是使用静态的归一化系数。

2020年9月29日 · Here we propose Multi-hop Attention Graph Neural Network (MAGNA), a principled way to incorporate multi-hop context information into every layer of attention computation. MAGNA diffuses the attention scores across the network, which increases the receptive field for every layer of the GNN.

2017年10月30日 · We present graph attention networks (GATs), novel neural network architectures that operate on graph-structured data, leveraging masked self-attentional layers to address the shortcomings of prior methods based on graph convolutions or their approximations.

2025年2月2日 · 图注意力网络 (Graph Attention Networks, GAT) 是对图卷积网络 (Graph Convolutional Network, GCN) 的改进，提出了一种通过自注意力 (self-attention) 过程计算的加权因子，而不是使用静态的归一化系数。在本节中，我们介绍了 GAT 架构。

在 Attention 的作用下，GNN 模型会关注到 Graph 中最重要的节点/节点中最重要的信息从而提高信噪比。 Attention 更巧妙地利用了 Graph 节点之间的相互联系，区分了联系的层级，能够增强任务中需要的有效信息。