课堂 Quiz 复习资料|Quiz 3 准备版(L08 图神经网络)
非官方 Quiz 3 准备第一册:L08 GCN 与 DiffPool 要点、易判错的陈述对照,以及仿课件五节点例题出的练习题。
手机上宽表格可左右滑动;自测答案默认收起,点击题目下方按钮查看。
2026-11-13 · Quiz 3 准备(L08)· 非官方
测验形式与 Quiz 3 范围
三次 In-class Quiz 共 9%,每次 3%,课程信息写约 30 分钟(课件上 Quiz 1、2 标 20 分钟)、约 20 道二择一判断题(True/False),题面是英文。考试安排与范围以讲师通知为准。
Quiz 3 按课表在 L11(11-26)课上。范围按惯例推断,以课堂公告为准。 Quiz 1 在 L04 课上,公告范围是 L1+L2+L3,当天讲的 L04 不考;Quiz 2 在 L08 课上,按同一惯例推断为 L04–L07。照此类推,Quiz 3 覆盖 L08–L10,L11 当天的半监督与自监督学习不在内。目前没有 Quiz 3 的独立公告;公告若不同,以公告为准。
Quiz 3 的准备材料分两册:本册是 L08 图神经网络,第二册是 L09 自编码器与胶囊网络。L10(VAE、GANs)在 11-19 上课,课后再补。
判断题的分数大多丢在范围词和维数上。下面先列要点,再列「易判错的陈述」:左列是课件原话,中列是常见的偷换说法,右列是偷换后的判断。最后是仿课件例题出的练习题,每题先给「提示」,再给「解答」,都折叠着,先自己做再展开。
Quiz 2 复习资料 · Quiz 3 · L08 图神经网络 · Quiz 3 · L09 自编码器与胶囊网络
L08 Graph Neural Networks
要点。 规则数据有两种(p.8):固定大小的网格(如 MNIST 图片)交给 CNN 或 Dense 层,长度可变的序列交给 RNN 或 Attention。图是不规则数据(p.9):每张图节点数不同,每个节点边数不同,节点和边各带不同的特征。课件举了三个场景:社交网络、三维网格、分子结构。图里一个节点可能有 2 个邻居,另一个有 4 个,卷积核没有固定形状可滑,所以不能直接用 CNN。
三类任务(p.11):节点分类(社交网络里判断一个人支持谁)、图分类(一个分子稳定还是不稳定)、连边预测(两个节点之间有没有边)。p.12 的方法分类图里,本讲只讲 GCN 和 DiffPool;GraphSAGE、GAT 等课件不展开。
五节点例图(p.14):节点 A–E,边 A-B、A-C、B-C、B-D、B-E、C-E、D-E 共 7 条,每个节点 3 维特征。A、B、C 有标签,D、E 待预测,任务是节点分类。三个矩阵(p.15):邻接矩阵 A 对称、对角线为 0;度矩阵 D 的对角线是各节点的边数 diag(2, 4, 3, 2, 3);特征矩阵 X 是 5×3。Ã = A + I 是加自环,让节点聚合时也算上自己;D̃ = D + I = diag(3, 5, 4, 3, 4)。
四种聚合(p.16–20):
- ÃX:自己和邻居的特征直接相加。A 行 = A + B + C = [-0.3, -2.0, 1.6]。红字说度大的节点加的项多、数值更大,需要归一化。
- D̃⁻¹ÃX:按行平均,A 行 [-0.1, -0.67, 0.53]。对中心节点 A,每个邻居贡献相同;同一个邻居 B 对不同中心节点的贡献不同。
- D̃⁻¹ÃD̃⁻¹X:左右各除一次度,平均了两次,课件打 ✓。第 i 行第 j 列是 1/(d̃_i d̃_j),矩阵对称。
- D̃^-1/2 Ã D̃^-1/2 X:修正平均,课件打 ✓,记作 Â。第 i 行第 j 列是 1/√(d̃_i d̃_j)。
一层 GCN 是 ÂXW 再过 ReLU,W 是所有节点共用的 shared dense layer,可以改变特征长度(p.20–21)。两层 GCN:y = sigmoid(Â ReLU(ÂXW⁰) W¹),每个节点上算交叉熵损失(p.21)。训练时只有带标签的节点计入损失。
图池化(p.23–26):GCN 层不改变节点数,「The graph size is not reduced」。图分类要把整张图缩成一个答案,所以要池化。DiffPool 每层用两个 GNN:Z = GNN₁(A, X) 是新特征(5×12),S = softmax(GNN₂(A, X)) 是分配矩阵(5×4),每行在 4 个新簇上做 softmax。下一层 X’ = SᵀZ(4×12),A’ = SᵀAS(4×4)。新的节点数和特征长度都是自己定的(self-defined)。图分类是 GNN 和 DiffPool 交替堆叠,池化到最后接分类器(p.26)。
易判错的陈述
| 课件原话(页) | 常见偷换 | 偷换后 |
|---|---|---|
| Each graph consists of different number of nodes(p.9) | 只要把节点按编号排好,CNN 就能直接处理任意图 | 错,邻居数不固定,没有固定窗口 |
| 三类任务:node / graph classification、link prediction(p.11) | 预测两个节点之间有没有边属于节点分类 | 错,是连边预测 |
| Ã = A + I(p.15) | Ã 的对角线仍为 0 | 错,加自环后对角线为 1 |
| D 的对角线是边数(p.15) | 度矩阵 D 的对角线全是 1 | 错 |
| High-degree nodes have larger values; need to be normalized(p.16) | ÃX 已经按度归一化 | 错,ÃX 是直接求和 |
| D̃⁻¹Ã: normalized but asymmetric(p.19) | D̃⁻¹Ã 是对称矩阵 | 错,按行平均后不对称 |
| D̃⁻¹ÃD̃⁻¹: symmetric(p.19) | D̃⁻¹ÃD̃⁻¹ 每行加起来等于 1 | 错,例图各行约 0.26–0.27 |
| a shared dense layer, parameters W(p.20) | 每个节点有自己的一套 W | 错,所有节点共用 |
| y = sigmoid(Â ReLU(ÂXW⁰) W¹)(p.21) | 两层 GCN 的两层都用 sigmoid | 错,中间 ReLU,输出 sigmoid |
| The graph size is not reduced(p.23) | GCN 层会把图变小 | 错,缩图靠池化 |
| softmax is applied on the 4 new clusters(p.25) | S 的每一列加起来为 1 | 错,softmax 按行,每行和为 1 |
| Aⁱ⁺¹ = (Sⁱ)ᵀ Aⁱ Sⁱ(p.25) | 新邻接矩阵是 S Aⁱ Sᵀ | 错,维数对不上 |
课件里的坑
- p.18 A 行第三个数:课件写 .52,1.6/3 四舍五入是 0.53。
- p.18「→A: 1/2;→C: 1/3」用的是不含自环的度。按课件自己的 D̃⁻¹ÃX,B 对 A 的权重是 1/3,对 C 是 1/4。结论(同一邻居对不同中心贡献不同)不变。
- p.19 说 D̃⁻¹ÃD̃⁻¹ 是 Normalized,可它每行加起来约 0.26–0.27,不是 1。对称这一点是对的。
- p.24 写 Xⁱ⁺¹ 为 (4×3),p.25 写 (4×12)。按 p.25 的算法,Xⁱ⁺¹ 的列数等于 GNN₁ 输出的长度 12。
- p.28 Take-home 第 5 条写「???」。按 p.21、p.26:节点分类堆两层 GCN;图分类让 GCN 和 DiffPool 交替堆叠。
练习题
练习 1–6 仿课件 p.14–25 的五节点例题出,练习 7–9 是英文判断题,仿课堂 Quiz 的题型。以下均为非官方自拟练习。
练习 1 · 写矩阵
仿课件 p.15。五节点例图的边是 A-B、A-C、B-C、B-D、B-E、C-E、D-E。写出 Ã 的 B 行和 D̃。
提示
先数 B 有几个邻居。Ã 比 A 多了对角线上的 1,D̃ 比 D 每个对角元多 1。
解答
B 和 A、C、D、E 都相连,A 的 B 行是 1 0 1 1 1;加自环后 Ã 的 B 行是 1 1 1 1 1。D = diag(2, 4, 3, 2, 3),所以 D̃ = diag(3, 5, 4, 3, 4)。验算:7 条边,每条贡献两个度,2+4+3+2+3 = 14。
练习 2 · 求和聚合
仿课件 p.16。特征 A [0.8, -0.6, 1.1]、B [0.1, 0.2, 1.2]、C [-1.2, -1.6, -0.7]、D [1.8, 0.1, -2.1]、E [2.1, -0.2, 1.0]。求 ÃX 的 D 行。
提示
à 的 D 行在哪几列是 1?D 自己加上它的邻居。
解答
D 的邻居是 B、E,加上自己共三项。D 行 = B + D + E = [0.1+1.8+2.1, 0.2+0.1-0.2, 1.2-2.1+1.0] = [4.0, 0.1, 0.1]。
练习 3 · 按行平均
仿课件 p.18。接练习 2,求 D̃⁻¹ÃX 的 B 行。ÃX 的 B 行是 [3.6, -2.1, 0.5]。
提示
D̃⁻¹ 就是 D̃ 对角线取倒数。B 的 d̃ 是多少?
解答
d̃_B = 5,D̃⁻¹ 的 B 行就是乘 1/5。[3.6, -2.1, 0.5] / 5 = [0.72, -0.42, 0.1]。
练习 4 · 双边归一化
仿课件 p.19。求 D̃⁻¹ÃD̃⁻¹ 中 A 行 B 列的元素,并判断这个矩阵每行加起来是不是 1。
提示
第 i 行第 j 列是 1/(d̃_i d̃_j),左右各除一次度。
解答
d̃_A = 3,d̃_B = 5,A-B 元素 = 1/(3×5) = 1/15。A 行是 [1/9, 1/15, 1/12, 0, 0],和约 0.2611,远小于 1。这个矩阵对称,但每行不归一。课件 p.19 写它是 Normalized,这是课件的坑。
练习 5 · 两层 GCN 的形状
仿课件 p.21。五节点图,X 是 5×3,W⁰ 是 3×4,W¹ 是 4×1, 是 5×5。求 ReLU(ÂXW⁰) 和 y 的形状,并说明哪些节点计入损失。
提示
 不改形状,左乘只是在节点之间混合;W 改的是特征长度。
解答
ÂX 是 5×3,乘 W⁰ 得 5×4,ReLU 不改形状。再左乘 Â 仍是 5×4,乘 W¹ 得 5×1,sigmoid 后 y 是 5×1,每个节点一个输出。只有带标签的 A、B、C 计入交叉熵损失,D、E 用训练好的网络预测。
练习 6 · DiffPool 维数
仿课件 p.25。第 i 层 A 是 5×5、X 是 5×3。GNN₁ 输出长度 12,簇数定为 4。写出 Z、S、X’、A’ 的维数,并说明 S 的 softmax 沿哪个方向做。
提示
S 的每一行是一个旧节点,每一列是一个新簇。X’ = SᵀZ,A’ = SᵀAS。
解答
Z 是 5×12,S 是 5×4,每行在 4 个新簇上做 softmax,每行和为 1。X’ = SᵀZ 是 (4×5)(5×12) = 4×12。A’ = SᵀAS 是 (4×5)(5×5)(5×4) = 4×4。图从 5 个节点缩成 4 个簇。
练习 7 · Self-loops
In GCN, adding the identity matrix to the adjacency matrix (Ã = A + I) lets each node include its own features when aggregating information from its neighbours.
提示
对比 A 和 Ã 的对角线,再看 ÃX 的 A 行加了哪几项。
解答
True. 加自环后对角线为 1,ÃX 的 A 行 = A + B + C,包含 A 自己(p.15–16)。
练习 8 · Row normalization
The matrix D̃⁻¹Ã is symmetric, and each of its rows sums to 1.
提示
这句话里有两个判断,拆开看。一句判断题里有一半错,整句就是 False。
解答
False. 每行和为 1 是对的(按行平均);课件原话是 Normalized but asymmetric,所以「symmetric」错(p.19)。
练习 9 · Pooling
A two-layer GCN reduces the number of nodes in the graph, so it can be used directly for graph classification without any pooling layer.
提示
两层 GCN 的输出是几行?和输入的节点数比一比。
解答
False. 课件红字 The graph size is not reduced(p.23)。图分类要靠 DiffPool 这类池化层,把图逐级缩小(p.26)。
回查
回查页码:L08 的 p.9 不规则数据,p.11 三类任务,p.14–21 五节点例图与 GCN,p.23–26 DiffPool。逐步手算见讲义页 L08a、L08b、L08c、L08d。复习错题时记下「哪个条件词或哪个维数让判断变了」,再把错误命题改写成成立的英文句子。
个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。