← COMP5541 全部讲次
R03

课堂 Quiz 复习资料|Quiz 3 准备版(L09 自编码器与胶囊网络)

非官方 Quiz 3 准备第二册:L09 无监督学习、自编码器、转置卷积、胶囊层与动态路由的要点、易判错的陈述对照,以及仿课件例题出的练习题。

手机上宽表格可左右滑动;自测答案默认收起,点击题目下方按钮查看。

2026-11-13 · Quiz 3 准备(L09)· 非官方

测验形式与 Quiz 3 范围

三次 In-class Quiz 共 9%,每次 3%,课程信息写约 30 分钟(课件上 Quiz 1、2 标 20 分钟)、约 20 道二择一判断题(True/False),题面是英文。考试安排与范围以讲师通知为准。

Quiz 3 按课表在 L11(11-26)课上。范围按惯例推断为 L08–L10,以课堂公告为准,推断依据见第一册。本册是第二册,覆盖 L09 无监督学习第一部分。L10(VAE、GANs)在 11-19 上课,课后再补。

下面先列要点,再列「易判错的陈述」:左列是课件原话,中列是常见的偷换说法,右列是偷换后的判断。最后是仿课件例题出的练习题,每题先给「提示」,再给「解答」,都折叠着,先自己做再展开。

Quiz 2 复习资料 · Quiz 3 · L08 图神经网络 · Quiz 3 · L09 自编码器与胶囊网络

L09 Unsupervised Learning Part 1

要点:有监督与无监督。 L01–L08 都是有监督学习:训练数据带标签,任务是分类和回归(p.8)。无监督学习的数据没有标签,课件列了四类任务(p.8):聚类(K-means)、降维(PCA、Autoencoder)、密度估计(生成模型)、自监督学习。p.9 两张图:K-means 把平面上的点分成 3 团;PCA 把二维的点投影到一条直线上。自编码器在这里归到降维一类,和 PCA 并列;生成模型是 L10 的内容。

要点:自编码器。 结构是 Input → Encoder → Latent Space → Decoder → Reconstructed Data,图里层宽 6-4-2-4-6,中间最窄(p.11)。三条公式:编码 h = e(x),解码 x’ = d(h),损失 ℓ = ||x’ − x||。训练只看重构误差,不看标签。瓶颈比输入窄,网络没法原样照抄输入,只能学会保留最重要的特征(p.25 Q1)。可以用的层有全连接层、卷积层和转置卷积层。

卷积自编码器(p.12)的尺寸链:28x28x1 → 14x14x32 → 7x7x64 → 3x3x128 → Flatten 1152 → h(10)→ 1152 → 3x3x128 → 7x7x64 → 14x14x32 → 28x28x1。编码器每步 stride 2 下采样,解码器用转置卷积上采样。784 个数压到 10 个数,压缩比 78.4。转置卷积把 2 x 2 放大成 4 x 4:输入四周补 0 变成 6x6,再用 3x3 的核以步长 1 滑过。尺寸公式(补充,PyTorch 文档):卷积 ⌊(H_in + 2p − k)/s⌋ + 1,转置卷积 (H_in − 1)·s − 2p + k。

应用(p.13):降维、图像压缩、聚类、推荐系统、特征提取。潜在表示 h 是每个输入的短编码,同一数字的编码在散点图上聚成一团。

要点:胶囊层。 神经元是标量进、标量出;胶囊是向量进、向量出(p.15)。胶囊层四步(p.17–20):

  1. 变换:û_i = W_i u_i,W 是可学习参数。课件画的是共享版(每个输入一个 W),原论文每一对 (i, j) 各有一个 W_ij。
  2. 加权和:s_j = Σ c_ij û_i。
  3. Squash:v_j = ||s_j||² / (1 + ||s_j||²) · s_j / ||s_j||。方向不变,长度压到 0 和 1 之间。
  4. 动态路由求 c:b 全部从 0 开始;每轮 c = softmax(b),算出 s_j、v_j,再 b_ij ← b_ij + û_i · v_j;重复 K 轮。

和 v 方向一致的 û 内积大,下一轮拿到更大的 c,v 就更靠向它们。课件结论(p.20):Output vectors/capsules tend to cluster input vectors/capsules。胶囊网络(p.22)是一层卷积加几层胶囊层做编码器,再接全连接解码器,用重构误差训练。课件 p.25–26 的选择题答案:动态路由代替 max-pooling;胶囊向量的长度表示实体存在的概率;胶囊网络想解决 CNN 难以表示部件和整体相对关系的问题。

易判错的陈述

课件原话(页) 常见偷换 偷换后
Unsupervised: Clustering, Dimension Reduction, Density Estimation, Self-supervised(p.8) 无监督学习只有聚类一种任务 错,四类
Dimension Reduction(PCA、Autoencoder)(p.8) 自编码器是有监督模型,要用标签训练 错,只看重构误差
ℓ = ‖x’ − x‖(p.11) 自编码器的损失比较输出和标签 错,比较输出和输入
瓶颈层比输入窄(p.11、p.25 Q1) 瓶颈层的作用是扩大维数 错,逼网络学压缩
2 x 2 → 4 x 4(p.12) 转置卷积只能把特征图变小 错,它做上采样
Keep the length of v_j between 0 and 1(p.18) squash 会改变向量方向 错,只改长度
Initialization: b = 0(p.19) 动态路由第一轮的 c 是随机初始化的 错,b 全 0,c 全相等
b ← b + û · v(p.19) 和 v 方向一致的输入,下一轮权重变小 错,内积大则权重变大
tend to cluster input vectors(p.20) 输出胶囊一定会把输入分成固定的 3 团 错,原话是 tend to
dynamic routing-by-agreement(p.25 Q2) 胶囊网络在层间用 max-pooling 传信息 错,用动态路由代替
length = probability of the entity being present(p.26 Q3) 胶囊向量的长度表示重构误差的大小 错

课件里的坑

  • p.11 损失写的是范数 ||x’ − x||,没有平方。实际训练常用平方误差(MSE),两者最小值在同一处,作答按课件写法。
  • p.17「Keep the vector dimension the same」和图里 4 维 → 3 维对不上。合理读法:变换后所有 û 的维数相同,并且和输出胶囊 v 的维数相同。
  • p.17 课件画的 Parameters shared 是简化,原论文每一对 (i, j) 都有自己的矩阵。下标写法也不统一。
  • p.19 softmax 的方向和原论文不同。课件对固定的 j 在所有输入 i 之间做 softmax;原论文对固定的输入 i 在高一层(输出层)所有胶囊 j 之间做。作答按课件写,知道论文写法即可。
  • p.18、p.20 的标签「Squash(」少了右括号。
  • p.27 Take-home 第 4 条写「???」。按 p.22:一层卷积,后面叠几层胶囊层,最后接全连接解码器重构输入。

练习题

练习 1–6 仿课件 p.11–20 的公式和尺寸链出,练习 7 仿课件 p.25–26 的选择题,练习 8–10 是英文判断题,仿课堂 Quiz 的题型。以下均为非官方自拟练习。

练习 1 · 重构损失

仿课件 p.11。输入 x = (1, 0, 1, 0, 1, 0),解码输出 x’ = (0.9, 0.1, 0.8, 0.0, 1.0, 0.2)。按课件写法求 ℓ,再按平方误差求一次。

提示

先逐维相减,再平方求和。课件的 ||·|| 最后要开根号,平方误差不开。

解答

差 = (−0.1, 0.1, −0.2, 0, 0, 0.2)。平方和 = 0.01+0.01+0.04+0+0+0.04 = 0.10。按课件写法 ℓ = √0.10 ≈ 0.316;按平方误差是 0.10。两种写法都在 x’ = x 时取到最小值 0。

练习 2 · 编码器尺寸

仿课件 p.12。卷积自编码器的 Conv3 输入是 7x7x64,卷积核 3x3、不补零、stride 2、128 个核。求输出尺寸和 Flatten 后的长度。

提示

卷积输出边长 ⌊(H_in + 2p − k)/s⌋ + 1,通道数等于核的个数。

解答

边长 = ⌊(7 − 3)/2⌋ + 1 = 3,输出 3x3x128。Flatten 后 3·3·128 = 1152。

练习 3 · 解码器尺寸

仿课件 p.12。DeConv3 把 3x3x128 放大,核 3x3、不补零、stride 2。求输出边长。再求课件动画里 2 x 2 输入、核 3x3、stride 1 的转置卷积输出边长。

提示

转置卷积输出边长 (H_in − 1)·s − 2p + k,和普通卷积反着来。

解答

DeConv3:(3 − 1)·2 − 0 + 3 = 7,输出 7x7。动画:(2 − 1)·1 + 3 = 4,输出 4 x 4。动画的等价看法:2x2 四周各补 2 格 0 变成 6x6,再做普通卷积,6 − 3 + 1 = 4。

练习 4 · 变换参数量

仿课件 p.17。4 个输入胶囊各 4 维,3 个输出胶囊各 3 维,每个变换矩阵 W 把 4 维变成 3 维。分别求不共享和共享时的参数个数。

提示

一个 W 是 3×4。不共享时每一对(输入 i,输出 j)一个 W;共享时每个输入一个 W。

解答

一个 W 有 3×4 = 12 个数。不共享:4×3 = 12 个矩阵,共 144 个数。共享:4 个矩阵,共 48 个数。

练习 5 · Squash

仿课件 p.18。分别求 s = (3, 4) 和 s = (0.3, 0.4) 经过 squash 后的 v。

提示

先算长度 n = ||s||,长度系数是 n² / (1 + n²),方向是 s / n。

解答

s = (3, 4):n = 5,系数 25/26 ≈ 0.9615,单位方向 (0.6, 0.8),v ≈ (0.577, 0.769)。s = (0.3, 0.4):n = 0.5,系数 0.25/1.25 = 0.2,v = (0.12, 0.16),长度 0.2。长向量被压到接近 1,短向量被压到接近 0。

练习 6 · 动态路由第一轮

仿课件 p.19。一个输出胶囊 j,三个输入 û_1 = (2, 1),û_2 = (2, 0),û_3 = (−1, 2),按课件写法在 i 之间做 softmax。求第 1 轮的 c、s 和更新后的 b。

提示

b 从全 0 开始,softmax 后每个 c 相等。v 用 squash 算,b 加的是 û_i · v。

解答

c = (1/3, 1/3, 1/3)。s = (2+2−1, 1+0+2)/3 = (1, 1),||s||² = 2,长度系数 2/3 ≈ 0.667,v ≈ (0.471, 0.471)。û · v ≈ (1.414, 0.943, 0.471),所以 b ≈ (1.414, 0.943, 0.471)。下一轮 c ≈ (0.497, 0.310, 0.193):方向偏离的 û_3 权重下降。

练习 7 · 选择题

仿课件 p.25–26。In Capsule Neural Networks, what mechanism replaces traditional max-pooling operations to transmit information between layers?

A. global average pooling;B. self-attention matrix multiplication;C. convolutional stride expansion;D. dynamic routing-by-agreement。

提示

胶囊层第四步算的是什么?那一步决定了每个输入往哪个输出送多少。

解答

D。原论文用 routing-by-agreement 在胶囊层之间传递信息,课件据此把它当作 max-pooling 的替代(p.25 Q2)。

练习 8 · Labels

An autoencoder is trained with the class labels of the input data, because its loss compares the reconstructed output with the true label.

提示

回到 ℓ = ||x’ − x||,x’ 和谁比?

解答

False. 损失比较重构 x’ 和输入 x,不用标签;课件把自编码器归到无监督的降维一类(p.8、p.11)。

练习 9 · Squash direction

The squash function changes the direction of the vector s_j and keeps its length between 0 and 1.

提示

squash 写成「长度系数 × 单位方向」,单位方向 s / ||s|| 动了没有?

解答

False. 后半句对,前半句错:方向 s / ||s|| 不变,只改长度(p.18)。

练习 10 · Routing update

In dynamic routing, an input vector û_i whose direction agrees with the output v_j receives a larger coupling coefficient c_ij in the next iteration.

提示

b 每轮加上 û · v。方向一致时内积大还是小?c 由 b 做 softmax 得到。

解答

True. 内积大,b 加得多,softmax 后 c 变大(p.19–20)。练习 6 里 û_3 的权重从 0.333 降到 0.193,就是反方向的例子。

回查

回查页码:L09 的 p.8–9 无监督任务,p.11–13 自编码器与转置卷积,p.15–20 胶囊层四步,p.22–26 胶囊网络与选择题。逐步手算见讲义页 L09a、L09b、L09c、L09d。复习错题时记下「哪个条件词让判断变了」,再把错误命题改写成成立的英文句子。

这组材料已读完,可以回课程页选择配套资料或练习:COMP5541 课程页。

个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。