L01c 机器学习:怎样算「在学」,又按什么分成三类
从 Samuel 的「不用显式编程」和 Mitchell 的 <T, P, E> 讲清机器学习的定义,再用两个问题把任何任务分进监督、无监督、强化三类。
一句话版
机器学习是让机器从经验里变得更好的方法。判断一个程序是不是在学习,就看三样:它在做什么任务(T),拿什么给它打分(P),用什么经验练(E);经验越多分数越高,就是在学。
机器学习按「有没有标准答案、答案从哪来」分成三类。数据自带答案的是监督学习,没有答案只有数据的是无监督学习,没有答案但环境会给奖惩的是强化学习。
先认识这几个词
| 词 | 全称 / 读法 | 一句人话 |
|---|---|---|
| 显式编程 | explicitly programmed | 人把每一步规则都写进代码 |
| T / P / E | Task / Performance / Experience | 任务 / 打分标准 / 练习用的经验 |
| 标签 | label,记作 y | 每条数据的标准答案 |
| 监督学习 | Supervised Learning | 有标准答案,学「输入 → 答案」 |
| 无监督学习 | Unsupervised Learning | 没有答案,自己找数据里的结构 |
| 强化学习 | Reinforcement Learning | 没有答案,靠环境给的奖惩学怎么做 |
| 半监督学习 | Semi-supervised Learning | 少量有答案加大量没答案 |
一个类比:三种学车的方式
想象三个人学开车。
第一个人报了驾校,教练坐在旁边。每到一个路口,教练直接说「这里该减速」「这里该打左灯」。每个情况都有标准答案,学的是「看到什么情况就做什么」。这是监督学习。
第二个人没有教练,只有几千段别人的行车记录视频,没人告诉他哪段对哪段错。他看多了,自己发现「这些视频是高速,这些是市区,这些是雨天」。他找出的是视频之间的结构。这是无监督学习。
第三个人在封闭场地上自己开。没人教,但撞了桩会扣分,顺利停进车位会加分。他反复试,慢慢摸出一套怎么开分最高的做法。这是强化学习。
类比在哪里失效:
- 人学车会举一反三,懂交通规则背后的道理。机器只会从数据里拟合规律,没见过的情况可能完全不会。
- 第二个人发现「高速 / 市区 / 雨天」后知道这些叫什么。无监督算法分出几组之后,每组代表什么还得人去解释。
从零讲起
1. Samuel 的定义:不用显式编程
它解决什么问题
上一页讲了两条路线:人写规则和从数据学。这一块给「从数据学」一个正式的名字和定义,讲清它和平常写程序到底差在哪。
从哪来(补充)
Arthur Samuel 在 IBM 做了一个下跳棋的程序,跑在 IBM 701 电脑上。程序靠和自己对弈越下越好。1959 年他发表论文 Some Studies in Machine Learning Using the Game of Checkers,machine learning 这个词由此传开。
直觉
Samuel 1959 年的定义是:Field of study that gives computers the ability to learn without being explicitly programmed,让计算机不经显式编程就能学习的研究领域。
关键在「不经显式编程」。平常写程序,人想清楚规则,一条条写进代码,机器照做。机器学习把方向反过来:人给数据和答案,机器自己把规则找出来。
一步一步看
目标:用垃圾邮件判断把两种做法各走一遍,看出传统编程是由规则得答案,机器学习是由答案得规则。
拿「判断一封邮件是不是垃圾邮件」,把两种做法各走一遍:
- 传统编程:人先想规则,比如「标题里有『中奖』就判垃圾」。
- 人把规则写进代码,机器拿到邮件照规则判。
- 机器学习:人收集几千封邮件,每封标好「垃圾 / 正常」。
- 学习算法看这些邮件,自己找出哪些词、哪些特征和垃圾邮件有关,产出一个模型。
| 输入 | 输出 | |
|---|---|---|
| 传统编程 | 规则 + 数据 | 答案 |
| 机器学习 | 数据 + 答案 | 规则(模型) |
怎么判断
一个程序算不算机器学习,问:它的判断规则是人写进代码的,还是从数据里学出来的?人写的,是传统编程;学出来的,是机器学习。
注意判断的是「规则怎么来」,不看程序复杂不复杂。一个几万行的手写规则系统仍是传统编程,一个几行代码的线性回归却是机器学习。
常见误解
以为机器学习完全不用写代码
「不经显式编程」指的是判断规则不由人写。学习算法本身、数据处理、训练流程都还要写代码。
以为程序越复杂就越像机器学习
判据只有一条:规则是不是从数据学的。复杂的手写规则系统,比如专家系统,规则全是人写的,不算机器学习。
试一下
一个计算器 App 的加法功能,和一个根据你过去的听歌记录推荐新歌的功能,哪个是机器学习?
推荐新歌是机器学习,「你可能喜欢什么」是从听歌记录里学出来的。加法功能是传统编程,规则是人写死的。
2. Mitchell 的 <T, P, E>:怎样才算「在学」
它解决什么问题
Samuel 的定义好懂,但不好检验:怎么判断一个程序「在学习」?Mitchell 1998 年的定义把它拆成三个可以填空的位置。这是最标准的考法:给一个场景,让你指出 T、P、E 分别是什么。
直觉
Mitchell 的原句是:A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on T, as measured by P, improves with experience E.
翻成人话:先说清要做什么事(T),再说清拿什么打分(P),再说清用什么练(E)。如果练得越多,这件事上的分数越高,这个程序就在学习。三格缺一不可,最后还要「分数随经验变好」。
一步一步看
目标:拿垃圾邮件过滤把 T、P、E 三格填满,再用「数据多了准确率涨不涨」检验它算不算在学。
拿垃圾邮件过滤填一遍:
-
T 任务:判断一封邮件是不是垃圾邮件。
-
P 表现:分类准确率,也就是判对的比例。
-
E 经验:已经标好「垃圾 / 正常」的历史邮件。
-
检验:给它更多标好的邮件,准确率往上走,就符合定义。
怎么判断
填 T、P、E 时各有一个容易错的地方:
- T 要写成一个动作,「判断……」「预测……」「识别……」,不写成一个领域名。
- P 要写成能算出一个数的指标,比如准确率、误差,不写「效果好」。
- E 要写成具体的数据,监督学习的 E 要点明「带标签」。
常见误解
把 P 写成模型本身
P 是打分标准,例如准确率,不是「一个神经网络」。模型是被打分的那一方,不在 T、P、E 里。
把 E 写成「很多邮件」
监督学习的经验必须带标签,否则程序无从知道哪封是垃圾。写「已标注垃圾 / 正常的历史邮件」才完整。
试一下
用 描述一个下跳棋的程序。
T = 下跳棋;P = 对局的胜率;E = 和自己或别人对弈的棋局。和自己下得越多,胜率越高,就是在学习。
3. 三分类:先问有没有答案,再问谁给反馈
它解决什么问题
机器学习方法很多,课件用一张表把它们分成三大类。这一节是全讲唯一有硬考点的部分,考法几乎固定:给一个场景,问属于哪一类,说出依据。
直觉
判据只有一条:标签的有无与来源。
每条数据都带着现成的标准答案,算法学的是「输入 → 答案」,是监督学习。没有答案,只有数据本身,算法自己找哪些数据彼此相像,是无监督学习。没有现成答案,但算法每做一个动作,环境会给奖励或惩罚,算法学的是怎么做才能拿最多奖励,是强化学习。
一步一步看
目标:按「有没有标准答案、环境给不给奖励」两问走一遍,看任务怎样落进监督、无监督、强化三类。
拿到一个任务,按两个问题走:
-
第一问:每条数据有现成的标准答案吗?有,就是监督学习,停。
-
没有,进第二问:环境会对动作给奖励或惩罚吗?
-
会,是强化学习;不会,是无监督学习。
-
落到监督学习的,下一页再按输出分回归和分类。
| 范式 | 数据形态 | 目标 | 典型算法 |
|---|---|---|---|
| 监督学习 | 有标签 (x, y) | 学出 x → y 的映射 | 线性回归、决策树、SVM、CNN |
| 无监督学习 | 只有 x,无标签 | 发现数据内在结构 | k-means、层次聚类、PCA |
| 强化学习 | 无固定数据集,靠与环境交互 | 学出最大化累计奖励的策略 | Q-learning、DQN |
怎么判断
答题时先写判据,再写结论:「每条数据有标签 → 监督」「只有数据没有标签 → 无监督」「靠环境奖惩 → 强化」。
还有一类介于中间:少量有标签、大量无标签的叫半监督学习。课程大纲列了它,这一讲课件没画。遇到「只有一小部分数据被人标过」的场景,答半监督。
常见误解
以为强化学习的奖励就是标签
标签是每条数据的标准答案,直接告诉你「这里该做什么」。奖励只告诉你「做得好不好」,不告诉你正确做法,而且常常到最后才给。所以强化学习单独算一类。
以为「相似度匹配」也是监督学习
比较两个样本像不像,不需要事先定好的类别表,属于无监督那一边,是聚类和检索的基础。
试一下
三个场景各属哪一类:(1) 把一万个用户按购买习惯自动分成几群;(2) 用标好「猫 / 狗」的照片训练识别器;(3) 让程序玩游戏,过关加分、掉坑扣分。
(1) 无监督,没有标签,自己找结构。(2) 监督,每张照片有标签。(3) 强化,靠环境给的奖惩学。
把它们串起来
Samuel 给了机器学习的方向:规则不由人写,从数据里学。传统编程是规则加数据得到答案,机器学习是数据加答案得到规则。
Mitchell 把「在学」变成可以检验的三格:任务 T、指标 P、经验 E。经验越多,P 量出来的分数越高,才算在学习。
学的时候手上有什么,决定了属于哪一类。经验里带标准答案,是监督学习;只有数据,是无监督学习;没有答案但环境给奖惩,是强化学习;少量有答案、大量没答案,是半监督。
下一页往监督学习里面走:同样有答案,答案是数还是类别,又分出回归和分类。
课件里的坑
- [Mitchell 的年份] 课件把 Mitchell 的定义标为 1998。他的教材 Machine Learning 由 McGraw Hill 于 1997 年出版(出处:Wikipedia: Tom M. Mitchell)。答题照课件写 1998 不会扣分,知道两个年份都在流传即可(p.38)
- [半监督没画] 课件三分类那页只画了三类,课程大纲另列了半监督。遇到「少量有标签」的场景要能答出来(p.69–71)
- [应用页在铺垫] p.52 分类、p.53 相似度匹配两页在应用全景里,不直接考,但正好是三分类里监督和无监督的例子(p.52–53)
课后 10 分钟:考点复习
这 10 分钟怎么用:合上页面,先默写 Samuel 和 Mitchell 两个定义;再用 <T, P, E> 给手写数字识别填三格;然后画出两问判断流程;最后过两道课件例题和变式题,每道先说判据再说结论。
必背
- Samuel 1959:Field of study that gives computers the ability to learn without being explicitly programmed,强调不用显式编程。
- Mitchell 1998 的 <T, P, E>:程序在任务 T 上由指标 P 度量的表现随经验 E 提升,就叫从经验中学习。
- 传统编程是人写规则 → 机器执行;机器学习是人给数据 → 机器出规则。
- 机器学习三分类的判据是标签的有无与来源:有标准答案是监督,只有数据是无监督,环境给奖励是强化。
- 监督学 x → y 的映射(线性回归、决策树、SVM、CNN);无监督找数据内在结构(k-means、层次聚类、PCA);强化学最大化累计奖励的策略(Q-learning、DQN)。
- 半监督:少量有标签数据加大量无标签数据,介于监督和无监督之间。
课件例题
课件这一段的例题都是看图判断题:给一个应用场景,说出它是哪类任务。
例 1(课件 p.52):这些图里是马还是车辆?
题面:课件放了一组照片,一半是摩托车,一半是马,每张图上用框标出物体,旁边问「这些是什么?马还是车辆?」
提示
先问每张图有没有一个事先定好的类别答案,再问输出是数还是类别。
解答
这是分类任务。每张图要判成「马」或「车辆」两个事先定好的类别之一,训练时每张图都带类别标签,属于监督学习。
例 2(课件 p.53):这几个头像是不是同一个人?
题面:课件放了四个三维人脸模型,问「它们采集自同一个人吗?」
提示
题目有没有给一张「这是谁」的类别表?还是只在比较样本之间有多像?
解答
这是相似度匹配。它不给类别表,只比较样本之间有多像。相似度匹配是聚类和检索的基础,对应无监督学习那一边。
完整例题
题面(课件自测题改编):(1) 用 Mitchell 的 <T, P, E> 框架描述「手写数字识别」。(2) 它属于机器学习的哪一类?写出判据。(3) 如果只有 100 张图片标了数字,另外一万张没标,又属于哪一类?
解法:
- (1) T:把一张手写数字图片判成 0–9 中的一个类别。写成动作,不写「图像领域」。
- (1) P:分类准确率,也就是判对的图片占多少。
- (1) E:带标签的手写数字样本,每张图都标了它是几。
- (2) 每条数据有现成的标准答案(图片上是几),所以是监督学习。答案是 0–9 里的一个类别,属于监督学习里的分类。
- (3) 少量有标签加大量无标签,是半监督学习,介于监督和无监督之间。
要点:E 一定要写「带标签」,这是判成监督学习的依据,也是 (3) 和 (2) 的区别所在。
答题格式:T、P、E 各一行;分类题先写「有 / 无标签」,再写结论。
变式题(先自己做)
(1) 自编情境:用 <T, P, E> 描述「垃圾邮件过滤」,并说出它属于哪一类。
(2) 自编情境:一个音乐 App 把用户按听歌习惯自动分成几群,没人告诉它该分成哪些群。属于哪一类?
(3) 自编情境:一个机器人在仓库里学怎么搬箱子,箱子掉了扣分,准时送达加分,没人示范正确动作。属于哪一类?
提示
(1) 按顺序填三格:要做的事、拿什么打分、用什么经验练。(2)(3) 先问有没有标准答案,没有再问有没有奖惩。
判分点与答案(非官方评分标准)
判分点:① (1) 的 E 要明确为带标签的数据,「大量邮件」不足以说明监督信号;② (2)(3) 写出判据,不只给结论。
(1) T = 把邮件判成垃圾 / 非垃圾;P = 分类准确率(或精确率、召回率、F1);E = 带「垃圾 / 非垃圾」标签的历史邮件。属于监督学习里的分类。
(2) 无监督学习。没有标签,算法自己找听歌习惯相近的用户归成一群,每群代表什么要人事后解释。
(3) 强化学习。没有示范答案,靠环境给的加分扣分学一套搬箱子的策略。
闪卡自测
1. 写出 Samuel 1959 的机器学习定义,它强调什么?
Field of study that gives computers the ability to learn without being explicitly programmed。强调不用显式编程:规则不由人写,由机器从数据学(p.38)。
2. 写出 Mitchell 的定义中 T、P、E 各指什么。
T 是任务,P 是衡量表现的指标,E 是经验。程序在 T 上由 P 度量的表现随 E 提升,就叫在学习(p.38)。
3. 用 <T, P, E> 描述「手写数字识别」。
T = 把手写数字图片判成 0–9 中的一类;P = 分类准确率;E = 带标签的手写数字样本(p.38)。
4. 传统编程和机器学习的输入输出有什么不同?
传统编程:规则加数据,得到答案。机器学习:数据加答案,得到规则(模型)(p.38)。
5. 监督、无监督、强化学习的划分依据是什么?
标签的有无与来源:有现成标准答案是监督,没有标准答案只有数据是无监督,没有标准答案但环境给奖励是强化(p.69–71)。
6. 三类各举两个典型算法。
监督:线性回归、决策树、SVM、CNN;无监督:k-means、层次聚类、PCA;强化:Q-learning、DQN(p.69–71)。
7. 半监督学习介于哪两类之间?
介于监督和无监督之间:少量有标签数据加大量无标签数据。课程大纲列了它,这一讲课件没画(p.69–71)。
8. 「判断几张人脸是否来自同一个人」属于哪一类?
相似度匹配,不需要事先定好的类别表,对应无监督学习那一边(p.53)。
下一讲
L01d 走进监督学习:答案是数还是类别,分出回归和分类;再用三个点走一遍「模型 → 损失 → 优化」这副所有监督学习都要用的骨架。
个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。