← COMP5511 全部讲次
L01c · 第 1 周

L01c 机器学习:怎样算「在学」,又按什么分成三类

从 Samuel 的「不用显式编程」和 Mitchell 的 <T, P, E> 讲清机器学习的定义,再用两个问题把任何任务分进监督、无监督、强化三类。

一句话版

机器学习是让机器从经验里变得更好的方法。判断一个程序是不是在学习,就看三样:它在做什么任务(T),拿什么给它打分(P),用什么经验练(E);经验越多分数越高,就是在学。

机器学习按「有没有标准答案、答案从哪来」分成三类。数据自带答案的是监督学习,没有答案只有数据的是无监督学习,没有答案但环境会给奖惩的是强化学习。

先认识这几个词

词 全称 / 读法 一句人话
显式编程 explicitly programmed 人把每一步规则都写进代码
T / P / E Task / Performance / Experience 任务 / 打分标准 / 练习用的经验
标签 label,记作 y 每条数据的标准答案
监督学习 Supervised Learning 有标准答案,学「输入 → 答案」
无监督学习 Unsupervised Learning 没有答案,自己找数据里的结构
强化学习 Reinforcement Learning 没有答案,靠环境给的奖惩学怎么做
半监督学习 Semi-supervised Learning 少量有答案加大量没答案

一个类比:三种学车的方式

想象三个人学开车。

第一个人报了驾校,教练坐在旁边。每到一个路口,教练直接说「这里该减速」「这里该打左灯」。每个情况都有标准答案,学的是「看到什么情况就做什么」。这是监督学习。

第二个人没有教练,只有几千段别人的行车记录视频,没人告诉他哪段对哪段错。他看多了,自己发现「这些视频是高速,这些是市区,这些是雨天」。他找出的是视频之间的结构。这是无监督学习。

第三个人在封闭场地上自己开。没人教,但撞了桩会扣分,顺利停进车位会加分。他反复试,慢慢摸出一套怎么开分最高的做法。这是强化学习。

类比在哪里失效:

  • 人学车会举一反三,懂交通规则背后的道理。机器只会从数据里拟合规律,没见过的情况可能完全不会。
  • 第二个人发现「高速 / 市区 / 雨天」后知道这些叫什么。无监督算法分出几组之后,每组代表什么还得人去解释。

从零讲起

1. Samuel 的定义:不用显式编程

它解决什么问题

上一页讲了两条路线:人写规则和从数据学。这一块给「从数据学」一个正式的名字和定义,讲清它和平常写程序到底差在哪。

从哪来(补充)

Arthur Samuel 在 IBM 做了一个下跳棋的程序,跑在 IBM 701 电脑上。程序靠和自己对弈越下越好。1959 年他发表论文 Some Studies in Machine Learning Using the Game of Checkers,machine learning 这个词由此传开。

出处:Wikipedia: Arthur Samuel

直觉

Samuel 1959 年的定义是:Field of study that gives computers the ability to learn without being explicitly programmed,让计算机不经显式编程就能学习的研究领域。

关键在「不经显式编程」。平常写程序,人想清楚规则,一条条写进代码,机器照做。机器学习把方向反过来:人给数据和答案,机器自己把规则找出来。

一步一步看

目标:用垃圾邮件判断把两种做法各走一遍,看出传统编程是由规则得答案,机器学习是由答案得规则。

拿「判断一封邮件是不是垃圾邮件」,把两种做法各走一遍:

  1. 传统编程:人先想规则,比如「标题里有『中奖』就判垃圾」。
  2. 人把规则写进代码,机器拿到邮件照规则判。
  3. 机器学习:人收集几千封邮件,每封标好「垃圾 / 正常」。
  4. 学习算法看这些邮件,自己找出哪些词、哪些特征和垃圾邮件有关,产出一个模型。
输入 输出
传统编程 规则 + 数据 答案
机器学习 数据 + 答案 规则(模型)

怎么判断

一个程序算不算机器学习,问:它的判断规则是人写进代码的,还是从数据里学出来的?人写的,是传统编程;学出来的,是机器学习。

注意判断的是「规则怎么来」,不看程序复杂不复杂。一个几万行的手写规则系统仍是传统编程,一个几行代码的线性回归却是机器学习。

常见误解

以为机器学习完全不用写代码

「不经显式编程」指的是判断规则不由人写。学习算法本身、数据处理、训练流程都还要写代码。

以为程序越复杂就越像机器学习

判据只有一条:规则是不是从数据学的。复杂的手写规则系统,比如专家系统,规则全是人写的,不算机器学习。

试一下

一个计算器 App 的加法功能,和一个根据你过去的听歌记录推荐新歌的功能,哪个是机器学习?

推荐新歌是机器学习,「你可能喜欢什么」是从听歌记录里学出来的。加法功能是传统编程,规则是人写死的。

2. Mitchell 的 <T, P, E>:怎样才算「在学」

它解决什么问题

Samuel 的定义好懂,但不好检验:怎么判断一个程序「在学习」?Mitchell 1998 年的定义把它拆成三个可以填空的位置。这是最标准的考法:给一个场景,让你指出 T、P、E 分别是什么。

直觉

Mitchell 的原句是:A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experience E.

翻成人话:先说清要做什么事(T),再说清拿什么打分(P),再说清用什么练(E)。如果练得越多,这件事上的分数越高,这个程序就在学习。三格缺一不可,最后还要「分数随经验变好」。

一步一步看

目标:拿垃圾邮件过滤把 T、P、E 三格填满,再用「数据多了准确率涨不涨」检验它算不算在学。

拿垃圾邮件过滤填一遍:

  1. T 任务:判断一封邮件是不是垃圾邮件。

  2. P 表现:分类准确率,也就是判对的比例。

  3. E 经验:已经标好「垃圾 / 正常」的历史邮件。

  4. 检验:给它更多标好的邮件,准确率往上走,就符合定义。

    三个面板:T 任务是判断一封邮件是不是垃圾邮件,P 表现是分类准确率,E 经验是已标注的历史邮件;下方青绿一句话:经验越来越多,在任务上用指标量出来的分数越来越高,才叫在学习

怎么判断

填 T、P、E 时各有一个容易错的地方:

  • T 要写成一个动作,「判断……」「预测……」「识别……」,不写成一个领域名。
  • P 要写成能算出一个数的指标,比如准确率、误差,不写「效果好」。
  • E 要写成具体的数据,监督学习的 E 要点明「带标签」。

常见误解

把 P 写成模型本身

P 是打分标准,例如准确率,不是「一个神经网络」。模型是被打分的那一方,不在 T、P、E 里。

把 E 写成「很多邮件」

监督学习的经验必须带标签,否则程序无从知道哪封是垃圾。写「已标注垃圾 / 正常的历史邮件」才完整。

试一下

用 描述一个下跳棋的程序。

T = 下跳棋;P = 对局的胜率;E = 和自己或别人对弈的棋局。和自己下得越多,胜率越高,就是在学习。

3. 三分类:先问有没有答案,再问谁给反馈

它解决什么问题

机器学习方法很多,课件用一张表把它们分成三大类。这一节是全讲唯一有硬考点的部分,考法几乎固定:给一个场景,问属于哪一类,说出依据。

直觉

判据只有一条:标签的有无与来源。

每条数据都带着现成的标准答案,算法学的是「输入 → 答案」,是监督学习。没有答案,只有数据本身,算法自己找哪些数据彼此相像,是无监督学习。没有现成答案,但算法每做一个动作,环境会给奖励或惩罚,算法学的是怎么做才能拿最多奖励,是强化学习。

一步一步看

目标:按「有没有标准答案、环境给不给奖励」两问走一遍,看任务怎样落进监督、无监督、强化三类。

拿到一个任务,按两个问题走:

  1. 第一问:每条数据有现成的标准答案吗?有,就是监督学习,停。

  2. 没有,进第二问:环境会对动作给奖励或惩罚吗?

  3. 会,是强化学习;不会,是无监督学习。

  4. 落到监督学习的,下一页再按输出分回归和分类。

    流程图:青绿的第一问,每条数据有现成的标准答案吗?有就是监督学习,学 x 到 y 的映射;没有就问第二问,环境会对动作给奖励或惩罚吗?不会是无监督学习,自己找数据里的结构;会是强化学习,学让累计奖励最大的策略

    机器学习三分类总表:监督学习有标签,学 x 到 y 的映射;无监督学习只有 x,发现数据内在结构;强化学习靠与环境交互,学最大化累计奖励的策略;每类附典型算法

范式 数据形态 目标 典型算法
监督学习 有标签 (x, y) 学出 x → y 的映射 线性回归、决策树、SVM、CNN
无监督学习 只有 x,无标签 发现数据内在结构 k-means、层次聚类、PCA
强化学习 无固定数据集,靠与环境交互 学出最大化累计奖励的策略 Q-learning、DQN

怎么判断

答题时先写判据,再写结论:「每条数据有标签 → 监督」「只有数据没有标签 → 无监督」「靠环境奖惩 → 强化」。

还有一类介于中间:少量有标签、大量无标签的叫半监督学习。课程大纲列了它,这一讲课件没画。遇到「只有一小部分数据被人标过」的场景,答半监督。

常见误解

以为强化学习的奖励就是标签

标签是每条数据的标准答案,直接告诉你「这里该做什么」。奖励只告诉你「做得好不好」,不告诉你正确做法,而且常常到最后才给。所以强化学习单独算一类。

以为「相似度匹配」也是监督学习

比较两个样本像不像,不需要事先定好的类别表,属于无监督那一边,是聚类和检索的基础。

试一下

三个场景各属哪一类:(1) 把一万个用户按购买习惯自动分成几群;(2) 用标好「猫 / 狗」的照片训练识别器;(3) 让程序玩游戏,过关加分、掉坑扣分。

(1) 无监督,没有标签,自己找结构。(2) 监督,每张照片有标签。(3) 强化,靠环境给的奖惩学。

把它们串起来

Samuel 给了机器学习的方向:规则不由人写,从数据里学。传统编程是规则加数据得到答案,机器学习是数据加答案得到规则。

Mitchell 把「在学」变成可以检验的三格:任务 T、指标 P、经验 E。经验越多,P 量出来的分数越高,才算在学习。

学的时候手上有什么,决定了属于哪一类。经验里带标准答案,是监督学习;只有数据,是无监督学习;没有答案但环境给奖惩,是强化学习;少量有答案、大量没答案,是半监督。

下一页往监督学习里面走:同样有答案,答案是数还是类别,又分出回归和分类。

课件里的坑

  • [Mitchell 的年份] 课件把 Mitchell 的定义标为 1998。他的教材 Machine Learning 由 McGraw Hill 于 1997 年出版(出处:Wikipedia: Tom M. Mitchell)。答题照课件写 1998 不会扣分,知道两个年份都在流传即可(p.38)
  • [半监督没画] 课件三分类那页只画了三类,课程大纲另列了半监督。遇到「少量有标签」的场景要能答出来(p.69–71)
  • [应用页在铺垫] p.52 分类、p.53 相似度匹配两页在应用全景里,不直接考,但正好是三分类里监督和无监督的例子(p.52–53)

课后 10 分钟:考点复习

这 10 分钟怎么用:合上页面,先默写 Samuel 和 Mitchell 两个定义;再用 <T, P, E> 给手写数字识别填三格;然后画出两问判断流程;最后过两道课件例题和变式题,每道先说判据再说结论。

必背

  1. Samuel 1959:Field of study that gives computers the ability to learn without being explicitly programmed,强调不用显式编程。
  2. Mitchell 1998 的 <T, P, E>:程序在任务 T 上由指标 P 度量的表现随经验 E 提升,就叫从经验中学习。
  3. 传统编程是人写规则 → 机器执行;机器学习是人给数据 → 机器出规则。
  4. 机器学习三分类的判据是标签的有无与来源:有标准答案是监督,只有数据是无监督,环境给奖励是强化。
  5. 监督学 x → y 的映射(线性回归、决策树、SVM、CNN);无监督找数据内在结构(k-means、层次聚类、PCA);强化学最大化累计奖励的策略(Q-learning、DQN)。
  6. 半监督:少量有标签数据加大量无标签数据,介于监督和无监督之间。

课件例题

课件这一段的例题都是看图判断题:给一个应用场景,说出它是哪类任务。

例 1(课件 p.52):这些图里是马还是车辆?

题面:课件放了一组照片,一半是摩托车,一半是马,每张图上用框标出物体,旁边问「这些是什么?马还是车辆?」

提示

先问每张图有没有一个事先定好的类别答案,再问输出是数还是类别。

解答

这是分类任务。每张图要判成「马」或「车辆」两个事先定好的类别之一,训练时每张图都带类别标签,属于监督学习。

例 2(课件 p.53):这几个头像是不是同一个人?

题面:课件放了四个三维人脸模型,问「它们采集自同一个人吗?」

提示

题目有没有给一张「这是谁」的类别表?还是只在比较样本之间有多像?

解答

这是相似度匹配。它不给类别表,只比较样本之间有多像。相似度匹配是聚类和检索的基础,对应无监督学习那一边。

完整例题

题面(课件自测题改编):(1) 用 Mitchell 的 <T, P, E> 框架描述「手写数字识别」。(2) 它属于机器学习的哪一类?写出判据。(3) 如果只有 100 张图片标了数字,另外一万张没标,又属于哪一类?

解法:

  1. (1) T:把一张手写数字图片判成 0–9 中的一个类别。写成动作,不写「图像领域」。
  2. (1) P:分类准确率,也就是判对的图片占多少。
  3. (1) E:带标签的手写数字样本,每张图都标了它是几。
  4. (2) 每条数据有现成的标准答案(图片上是几),所以是监督学习。答案是 0–9 里的一个类别,属于监督学习里的分类。
  5. (3) 少量有标签加大量无标签,是半监督学习,介于监督和无监督之间。

要点:E 一定要写「带标签」,这是判成监督学习的依据,也是 (3) 和 (2) 的区别所在。

答题格式:T、P、E 各一行;分类题先写「有 / 无标签」,再写结论。

变式题(先自己做)

(1) 自编情境:用 <T, P, E> 描述「垃圾邮件过滤」,并说出它属于哪一类。 (2) 自编情境:一个音乐 App 把用户按听歌习惯自动分成几群,没人告诉它该分成哪些群。属于哪一类? (3) 自编情境:一个机器人在仓库里学怎么搬箱子,箱子掉了扣分,准时送达加分,没人示范正确动作。属于哪一类?

提示

(1) 按顺序填三格:要做的事、拿什么打分、用什么经验练。(2)(3) 先问有没有标准答案,没有再问有没有奖惩。

判分点与答案(非官方评分标准)

判分点:① (1) 的 E 要明确为带标签的数据,「大量邮件」不足以说明监督信号;② (2)(3) 写出判据,不只给结论。

(1) T = 把邮件判成垃圾 / 非垃圾;P = 分类准确率(或精确率、召回率、F1);E = 带「垃圾 / 非垃圾」标签的历史邮件。属于监督学习里的分类。

(2) 无监督学习。没有标签,算法自己找听歌习惯相近的用户归成一群,每群代表什么要人事后解释。

(3) 强化学习。没有示范答案,靠环境给的加分扣分学一套搬箱子的策略。

闪卡自测

1. 写出 Samuel 1959 的机器学习定义,它强调什么?

Field of study that gives computers the ability to learn without being explicitly programmed。强调不用显式编程:规则不由人写,由机器从数据学(p.38)。

2. 写出 Mitchell 的定义中 T、P、E 各指什么。

T 是任务,P 是衡量表现的指标,E 是经验。程序在 T 上由 P 度量的表现随 E 提升,就叫在学习(p.38)。

3. 用 <T, P, E> 描述「手写数字识别」。

T = 把手写数字图片判成 0–9 中的一类;P = 分类准确率;E = 带标签的手写数字样本(p.38)。

4. 传统编程和机器学习的输入输出有什么不同?

传统编程:规则加数据,得到答案。机器学习:数据加答案,得到规则(模型)(p.38)。

5. 监督、无监督、强化学习的划分依据是什么?

标签的有无与来源:有现成标准答案是监督,没有标准答案只有数据是无监督,没有标准答案但环境给奖励是强化(p.69–71)。

6. 三类各举两个典型算法。

监督:线性回归、决策树、SVM、CNN;无监督:k-means、层次聚类、PCA;强化:Q-learning、DQN(p.69–71)。

7. 半监督学习介于哪两类之间?

介于监督和无监督之间:少量有标签数据加大量无标签数据。课程大纲列了它,这一讲课件没画(p.69–71)。

8. 「判断几张人脸是否来自同一个人」属于哪一类?

相似度匹配,不需要事先定好的类别表,对应无监督学习那一边(p.53)。

下一讲

L01d 走进监督学习:答案是数还是类别,分出回归和分类;再用三个点走一遍「模型 → 损失 → 优化」这副所有监督学习都要用的骨架。

下一讲 →
L01d L01d 监督学习:答案是数还是类别,以及一副通用骨架

个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。