← DSAI5T09 全部讲次
L04b-2 · 第 5 周

L04b-2 三个公平指标怎么算:混淆矩阵、Statistical Parity、Equal Opportunity、Predictive Equality

先补混淆矩阵和两个分母,再逐个讲 SP 比正预测率、EO 比 TPR、PE 比 FPR,以及两者合起来的 Equalized Odds,含课件招生三句例子和一道可以代入数字算的例题。

一句话版

三个公平指标比的是三个不同的比例;算之前先把每个人放进混淆矩阵的四格,再看分母是全组、真实为正的人,还是真实为负的人。

上一页准备好了四个符号和条件概率。这一页把三个指标逐个算出来,下一页再讲它们之间怎么冲突。

先认识这几个词

词 全称 / 读法 一句人话
混淆矩阵 confusion matrix 按「判成正还是负 × 真是正还是负」把人分进四格
TP / FP / FN / TN 真阳性 / 假阳性 / 假阴性 / 真阴性 判对的正、误判的正、漏掉的正、判对的负
TPR True Positive Rate,真阳性率 真实为正的人里,被判成正的比例
FPR False Positive Rate,假阳性率 真实为负的人里,被误判成正的比例
正预测率 selection rate,简写 SR 全组里被判成正的比例
Equalized Odds 均等几率 TPR 和 FPR 两个都要在各组相等

一个类比:机场里的两条队伍

同一个机场同时做两件事。安检口把一部分人叫去二次检查,值机柜台把一部分人给快速通道资格。两件事在数学上结构相同、方向相反。

三个指标各问一句话。统计均等问:各群体被叫出来的比例一样吗?它根本不查谁真带了东西。机会均等问:真带了违禁品的人里,被拦下的比例一样吗?预测均等问:什么都没带的人里,被冤枉的比例一样吗?

方向决定该看哪个。快速通道是好事,最伤人的错是漏掉本该拿到资格的人,看机会均等。二次检查是坏事,最伤人的错是冤枉清白的人,看预测均等。

类比在哪里失效:

  1. 安检通常有复核,但不能假设误判只浪费几分钟。真实场景里误判的后果可能严重得多。
  2. 真正携带违禁品的人极少。正例很少时,准确率高也可能漏掉重要风险,变式题会演示这一点。

从零讲起

1. 先补一块:混淆矩阵(补充)

它解决什么问题

三个指标都要从「每个人被判对还是判错」数起。混淆矩阵把这件事整理成四个格子,后面所有比例都从这四个数算出来。

从哪来(补充)

混淆矩阵在文献里有两种排法:行放真实、列放预测,或反过来。TPR 又叫 recall、sensitivity,等于 TP 除以全部真实为正的人。FPR 又叫 fall-out,等于 FP 除以全部真实为负的人。出处:Wikipedia: Confusion matrix。

直觉

四格由两个问题交叉出来:模型判成正还是负?真实是正还是负?

混淆矩阵与两个分母:矩阵行是预测、列是真实,四格为 TP、FP、FN、TN;下方两个方框分别是 Equal Opportunity 看真实为正那一列算 TPR,以及 Predictive Equality 看真实为负那一列算 FPR,各标出分母是谁

课件这张矩阵把预测放在行、真实放在列。竖着看一列,是同一类真实标签的人:真实为正那一列是 TP 和 FN,真实为负那一列是 FP 和 TN。

TPR 和 FPR 都是竖着算的。横着算一行,得到的是 precision,那属于另一族指标。

一步一步看

目标:把 100 人的筛查结果填进四格再算 TPR 和 FPR,看两个比例各以哪一列为分母。

拿一组 100 人的筛查结果,把四格填满再算两个比例。

  1. 真实为正的有 20 人,模型判对 15 人:TP = 15,FN = 5。

  2. 真实为负的有 80 人,模型误判 8 人:FP = 8,TN = 72。

  3. 算 TPR:竖着看真实为正那一列,15/(15+5) = 0.75。

  4. 算 FPR:竖着看真实为负那一列,8/(8+72) = 0.10。

  5. 顺手验证互补:FNR = 5/20 = 0.25 = 1 − TPR;TNR = 72/80 = 0.90 = 1 − FPR。

    真实为正(20) 真实为负(80)
    判成正 TP = 15 FP = 8
    判成负 FN = 5 TN = 72
    竖着算 TPR = 0.75 FPR = 0.10

怎么判断

算比例前先问一句:分母是哪一列,还是哪一行?

  1. 分母是「真实为正的人」,算的是 TPR。
  2. 分母是「真实为负的人」,算的是 FPR。
  3. 分母是「被判成正的人」,算的是 precision,不属于本页三个指标。

常见误解

以为所有教材的混淆矩阵方向都一样

两种排法都常见。课件把预测放在行,很多教材把真实放在行。先确认方向再填数,否则 FP 和 FN 会整个对调。

把 TPR 的分母写成「全部被判成正的人」

那是 precision。TPR 的分母是全部真实为正的人,也就是 TP + FN。口诀:竖着看得 TPR、FPR,横着看得 precision。

试一下

某组 TP = 30,FN = 10,FP = 12,TN = 48。算 TPR、FPR 和 precision。

TPR = 30/(30+10) = 0.75。FPR = 12/(12+48) = 0.20。precision = 30/(30+12) ≈ 0.71。前两个竖着算,最后一个横着算。

2. Statistical Parity:只比正预测率

它解决什么问题

最直接的公平要求是:各组拿到好结果的比例一样。Statistical Parity(统计均等,简称 SP)把这句话写成式子。

直觉

公式是 P(Ŷ=1 | A=a) = P(Ŷ=1 | A=b)。竖线右边只有 A,没有 Y。

意思是 a 组和 b 组被判为正的比例相等。课件的例子是:各组录取率必须相等,不管个人 DSE 成绩或资格如何。

课件给了三条优点、三条局限:

优点 局限
Simple to verify:只要预测结果就能查 Ignores merit:不看个人是否合格
Corrects history:能主动抵消历史数据里的差距 Lazy fairness:随便挑人凑够比例也能达标
Public trust:比例相等,公众一看就懂 Accuracy trade-off:为凑比例,预测表现往往下降

它在三族划分里属于 Independence,形式是 Ŷ 与 A 独立。

一步一步看

目标:用两组录取结果按 SP 查一遍,看它为何不看谁合格、随机补录也能达标。

拿两组各 100 人的录取结果,按 SP 查一遍。

  1. a 组 100 人里 40 人被录:正预测率 0.40。

  2. b 组 100 人里 25 人被录:正预测率 0.25。

  3. 两组差 0.15,SP 不达标。

  4. 注意这一步完全没用到谁真的合格。即使知道 Y,SP 也不看它。

  5. 若随机从 b 组再挑 15 人录取,SP 就达标了。这正是 lazy fairness。

    人数 被录 正预测率
    a 组 100 40 0.40
    b 组 100 25 0.25
    随机补录后的 b 组 100 40 0.40

怎么判断

遇到 SP,问两句:

  1. 要保护的价值是不是「资源在群体间分配得一样」?是的话,SP 对得上。
  2. 两组真实合格率本来就不同吗?若不同,强行拉平会放进不合格的人或拒掉合格的人,要把这笔代价写出来。

常见误解

以为 SP 达标就证明每个决定都对

SP 只看比例,不看对错。随便挑人凑数也能达标,课件把这叫 lazy fairness。

以为 SP 可以替代其他指标

它在三个指标中唯一不依赖 Y,所以最好算。缺少真实结果时,EO、PE 算不出来,但不能拿 SP 的结论顶替它们。

试一下

一家公司各部门面试通过率:男 50 人通过 20 人,女 40 人通过 12 人。SP 达标吗?只凭这些数据能说明哪组更合格吗?

男 20/50 = 0.40,女 12/40 = 0.30,差 0.10,SP 不达标。只凭这些数据说明不了谁更合格,因为 SP 没用到真实标签 Y。

3. Equal Opportunity:在合格的人里比 TPR

它解决什么问题

SP 完全忽略真实标签。Equal Opportunity(机会均等,简称 EO)把条件收窄到真正合格的人,只问合格的人有没有被公平地看见。

直觉

公式是 P(Ŷ=1 | A=a, Y=1) = P(Ŷ=1 | A=b, Y=1)。竖线右边比 SP 多了 Y=1。

意思是在真实为正的人里,各组被判为正的比例相等,也就是各组 TPR 相等。课件的例子是:本来会成功的学生,不论属于哪组,被录取的机会应当相等。

优点 局限
Respects merit:只在合格的人里比 Requires labels:必须知道真实结果 Y
Fair competition:合格者机会均等 Ignores barriers:对「为什么某组合格的人少」沉默
Incentive-aligned:努力变合格就有回报 Feedback loops:按历史标签学,偏差可能循环放大

EO 管的错误是假阴性:漏掉合格的人。

一步一步看

目标:只看真实合格的人,按 EO 比两组 TPR,看 b 组合格者为何更容易被漏掉,EO 又不管什么。

拿两组的录取结果,按 EO 查一遍,只看真实合格的人。

  1. a 组真实合格 50 人,被录 40 人:TPR = 0.80。

  2. b 组真实合格 20 人,被录 12 人:TPR = 0.60。

  3. 两组 TPR 差 0.20,EO 不达标:b 组合格的人更容易被漏掉。

  4. 再看 Ignores barriers:a 组合格 50 人、b 组只有 20 人,EO 对这个差距本身不发表意见。

    真实合格 被录(TP) 漏掉(FN) TPR
    a 组 50 40 10 0.80
    b 组 20 12 8 0.60

怎么判断

遇到 EO,问两句:

  1. Ŷ=1 是好事吗?漏掉合格的人是不是主要伤害?是的话,EO 对得上。
  2. 真实标签 Y 可信吗?如果 Y 本身来自带偏差的历史,EO 会把偏差当前提接受下来。

常见误解

以为 EO 一定比 SP 更公平

EO 只在真实合格的人之间要求均等。合格率的差距若来自历史不公,EO 会把它原封不动地接受。SP 与 EO 的分歧在于公平从哪里起算。

以为 EO 达标就不会有人被冤枉

EO 只看 Y=1 那一半。真实为负的人被误判多少,它不管,那是下一个指标的事。

试一下

一个贷款模型:a 组真实能还款 80 人,批准 64 人;b 组真实能还款 40 人,批准 32 人。EO 达标吗?

a 组 TPR = 64/80 = 0.80,b 组 TPR = 32/40 = 0.80,EO 达标。分母是真实能还款的人数,和两组总人数无关。

4. Predictive Equality 与 Equalized Odds

它解决什么问题

EO 只管合格的人。Predictive Equality(预测均等,简称 PE)管另一半:真实为负的人被冤枉的比例。把两个合起来,就是 Equalized Odds。

从哪来(补充)

Equalized Odds 和 Equal Opportunity 出自 Moritz Hardt、Eric Price、Nathan Srebro 2016 年的论文 Equality of Opportunity in Supervised Learning。Equalized Odds 要求各组真阳性率相等且假阳性率相等。出处:Wikipedia: Equalized odds;arXiv 论文。

直觉

PE 的公式是 P(Ŷ=1 | A=a, Y=0) = P(Ŷ=1 | A=b, Y=0),条件是 Y=0,比的是各组 FPR。课件的例子是:本来会失败的学生,不论属于哪组,被误录的机会应当相等。

EO 和 PE 是一对镜像:

条件 比什么 管哪类错误
Equal Opportunity Y = 1 TPR 假阴性,漏掉合格的人
Predictive Equality Y = 0 FPR 假阳性,冤枉真实为负的人

PE 的局限有三条:Neglects success,不保证合格者被公平对待;Requires labels,同样要真实结果;Systemic risk,拉平错误率并不解决数据里的底层偏差。

Equalized Odds 同时要求 TPR 和 FPR 相等。满足它一定满足 EO 和 PE,反过来不成立。

三个公平指标对比:01 Statistical Parity 比各组正预测率、唯一不需要真实标签 Y、属 Independence 族;02 Equal Opportunity 比 TPR、伤害是漏掉合格的人、属 Separation 族;03 Predictive Equality 比 FPR、伤害是误判真实为负的人、属 Separation 族;底部注明 Equalized Odds 等于 02 加 03

一步一步看

目标:拿银行贷款模型按四步判断先看哪个指标,看主要伤害怎样决定指标和分母。

拿一个银行贷款模型,判断该先看哪个指标。Ŷ=1 表示获批。

  1. 写清 Y=1 和 Ŷ=1:Y=1 是真能按时还款,Ŷ=1 是获批。

  2. 判断 Ŷ=1 是好事还是坏事:获批是好事。

  3. 找主要伤害:真能还款的人被拒,失去资金,这是漏掉合格的人。

  4. 选指标并写对分母:看 EO,算各组 TPR = TP/(TP+FN),再比差距。

    判断帧:案例是银行贷款模型,Ŷ=1 表示获批;左栏四步依次是写清 Y=1 与 Ŷ=1、判断 Ŷ=1 是好事还是坏事、伤害是漏掉冤枉还是分配不均、选指标并写对分母,当前停在第三步;右栏结论是算各组 TPR 等于 TP 除以 TP 加 FN 再比差距

怎么判断

在 EO 和 PE 之间选,先看 Ŷ=1 的方向:

  1. Ŷ=1 是好事(录取、放贷、录用):漏掉合格的人伤人更深,看 EO。
  2. Ŷ=1 是坏事(标记高风险、判定违规):冤枉清白的人伤人更深,看 PE。
  3. 两类错误都伤人:要 Equalized Odds,同时报两个比例。

常见误解

把「PE 是 FPR 相等」和「TNR 相等」当成两个指标

TNR = 1 − FPR,FPR 相等时 TNR 一定相等。课件一页写 TNR、一页写 FPR,是同一个条件的两种写法。

以为 PE 达标就解决了偏差

PE 只让错误在各组分摊得更均匀,没有让错误变少,也没碰造成差距的原因。课件把这条叫 Systemic risk。

试一下

一个内容审核模型,Ŷ=1 表示帖子被判违规删除。a 组真实不违规 200 条里被删 10 条,b 组真实不违规 100 条里被删 10 条。该看哪个指标?达标吗?

Ŷ=1 是坏事,主要伤害是不违规的帖子被误删,看 PE。a 组 FPR = 10/200 = 0.05,b 组 FPR = 10/100 = 0.10,PE 不达标。被删条数一样,分母不一样。

把它们串起来

三个指标共用一张混淆矩阵,差别只在分母。SP 的分母是全组,EO 的分母是真实为正那一列,PE 的分母是真实为负那一列。

这三个分母对应三种价值。SP 保护分配,不问对错。EO 保护合格的人不被漏掉。PE 保护清白的人不被冤枉。

EO 和 PE 都需要真实标签 Y,SP 不需要。所以 SP 最好查,也最容易被凑数。

EO 和 PE 合起来是 Equalized Odds,两类错误各自在群体间均摊。它比任何一个单独的指标都严格,代价也更大。

算题的落点是三步:先写清 Y=1 和 Ŷ=1 各指什么,再写对分母,最后说清达标的是哪个指标。

课件里的坑

  • [读图提醒] p.21 的混淆矩阵把预测放在行、真实放在列,很多教材反过来排。自己手算时先确认方向,否则 FP 和 FN 会整个对调
  • [术语提醒] p.21 把 Predictive Equality 写成 TNR 相等,p.23 写成 FPR 相等。TNR + FPR = 1,两种写法是同一个条件
  • [术语提醒] 英文里的 positive 指编码为 1,不自动表示好事。安检里 Ŷ=1 是被拉去检查,是坏事

课后 10 分钟:考点复习

这 10 分钟怎么用:合上页面,先画一个空的混淆矩阵,默写 TPR 和 FPR 的分子分母;再默写三个指标各自比什么、条件写什么;然后做课件例题、完整例题和变式题;最后回查最容易错的地方:TPR 的分母。

下面用于练习,不是官方题型或评分预测。英文答题先定义 Y=1 和 Ŷ=1,再写分母、计算差距,最后说清达标的是哪个指标。差值用 percentage points(百分点),不要与相对变化百分比混用。

必背

  1. TPR = TP/(TP+FN) 的分母是全部真实为正的人,FPR = FP/(FP+TN) 的分母是全部真实为负的人,选错分母是最常见的计算失误
  2. Statistical Parity 比各组的正预测率,写作 P(Ŷ=1 | A=a) = P(Ŷ=1 | A=b),它是三个指标里唯一不需要真实标签 Y 的
  3. SP 的长处是好查、能纠正历史、易获公众信任;短处是忽略 merit、可能变成 lazy fairness、要付准确率代价
  4. Equal Opportunity 比 TPR,管的是漏掉合格的人;Predictive Equality 比 FPR,管的是误判真实为负的人
  5. Equalized Odds 要求 TPR 和 FPR 同时相等,满足它一定满足 EO 和 PE,反过来不成立

课件例题

例 1(课件 p.20、p.22、p.23):招生场景里三句 E.g. 各对应哪个指标

题面:课件给三个指标各配了一句招生场景的例子。(甲)各组录取率必须相等,不管个人 DSE 成绩或资格如何。(乙)本来会成功的学生,不论属于哪组,被录取的机会应当相等。(丙)本来会失败的学生,不论属于哪组,被误录的机会应当相等。分别对应哪个指标?写出条件概率式。

提示

每句话先找「在哪群人里比」:全组、本来会成功的人、本来会失败的人。这群人就是竖线右边的条件。

解答

甲是 Statistical Parity:P(Ŷ=1 | A=a) = P(Ŷ=1 | A=b),条件里只有 A。

乙是 Equal Opportunity:P(Ŷ=1 | A=a, Y=1) = P(Ŷ=1 | A=b, Y=1),比的是 TPR。

丙是 Predictive Equality:P(Ŷ=1 | A=a, Y=0) = P(Ŷ=1 | A=b, Y=0),比的是 FPR。乙和丙同时成立,就是 p.24 的 Equalized Odds。

完整例题

自编数据,非课件原题。 本讲课件没有带数字的计算题,下面按 p.20–24 三个指标的定义自编一道。某机场用模型筛快速通道资格。两组各 1000 人,Y=1 表示确实符合资格,Ŷ=1 表示模型给了资格。

TP FN FP TN 真实为正 真实为负
a 组 480 120 80 320 600 400
b 组 240 60 140 560 300 700

① 先算基础率。a 组 600/1000 = 60%,b 组 300/1000 = 30%,相差 30 个百分点。是否与其他指标冲突,还要结合 TPR、FPR,不能仅凭基础率不同下结论。

② 算 TPR(Equal Opportunity)。分母是真实为正的人。a 组 480/600 = 0.80,b 组 240/300 = 0.80。相等,Equal Opportunity 达标。

③ 算 FPR(Predictive Equality)。分母是真实为负的人。a 组 80/400 = 0.20,b 组 140/700 = 0.20。相等,Predictive Equality 达标。 两条同时成立,所以 Equalized Odds 也达标。

④ 算正预测率(Statistical Parity)。分母是全组人数。a 组 (480+80)/1000 = 0.56,b 组 (240+140)/1000 = 0.38。差 0.18,Statistical Parity 不达标。

⑤ 这个结果说明什么。本例满足 Equalized Odds,但正预测率相差 18 个百分点;由 (0.8−0.2)×(0.6−0.3)=0.18 可复核。它不能证明系统挑不出任何毛病,也不能证明所有公平指标两两互斥。强行拉平正预测率会发生什么,见下一页的变式题。

答题格式:先写 Y=1、Ŷ=1 的含义,再每个指标写一行「分母是谁、两组各多少、差多少、达不达标」。

变式题(先自己做)

自编情境:同一个机场的安检二次检查模型。Y=1 表示确实携带违禁品,Ŷ=1 表示被叫去二次检查。

TP FN FP TN
a 组(2000 人) 32 8 196 1764
b 组(1000 人) 16 4 196 784

算出两组的 TPR、FPR、正预测率,判断三个指标各是否达标,并说明这个场景下哪个指标才是要害。

提示

两组被冤枉的人数一模一样,各 196 人,很容易就此下结论说对两组一视同仁。先把分母写出来再说。另外注意这个场景里 Ŷ=1 是坏事,方向和上面那道题相反。

判分点与答案(非官方评分标准)

判分点:① 三个指标各算出两组的数并比较;② 指出 196 = 196 是陷阱;③ 在优先减少清白者差别误查的目标下选 Predictive Equality;④ 提到极低基础率带来的另一个问题。

TPR:a 组 32/40 = 0.80,b 组 16/20 = 0.80。相等,Equal Opportunity 达标。

FPR:a 组 196/1960 = 0.10,b 组 196/980 = 0.20。Predictive Equality 不达标,b 组的冤枉率是 a 组的两倍。 绝对人数相同只是因为 b 组的清白人数只有 a 组的一半。

正预测率:a 组 228/2000 = 0.114,b 组 212/1000 = 0.212。差近一倍,Statistical Parity 不达标。

哪个是要害:若优先保护清白者免于差别误查,看 Predictive Equality;本例 FPR 相差 10 个百分点。只报 TPR 会漏掉这个差距。若还关注漏检违禁品,则也要评估 TPR。

额外一层:基础率均为 2%;precision 分别为 32/228≈14.0%、16/212≈7.5%。accuracy 分别为 (32+1764)/2000=89.8%、(16+784)/1000=80%。全部预测阴性的基线也有 98% accuracy,却漏掉全部正例。准确率不能单独评价这个任务。

闪卡自测

1. 混淆矩阵四格各是什么?

TP 判对的正,FP 误判成正的负,FN 漏掉的正,TN 判对的负。课件把预测放在行、真实放在列(p.21)。

2. TPR 和 FPR 的分母分别是什么?

TPR 的分母是全部真实为正的人(TP + FN),FPR 的分母是全部真实为负的人(FP + TN)。竖着看算这两个,横着看算 precision(p.21)。

3. Statistical Parity 的公式是什么?它最特别的地方在哪?

P(Ŷ=1 | A=a) = P(Ŷ=1 | A=b)。在本页三个指标中,它唯一不需要真实标签 Y(p.20)。

4. SP 的三条局限是什么?

Ignores merit、Lazy fairness、Accuracy trade-off:不看是否合格,凑数也能达标,为凑比例要付准确率代价(p.20)。

5. EO 的三条局限是什么?

Requires labels、Ignores barriers、Feedback loops:要真实结果,对合格率差距本身沉默,按历史标签学可能循环放大偏差(p.22)。

6. Equal Opportunity 和 Predictive Equality 各管哪一类错误?

EO 比 TPR,管漏掉合格的人(假阴性)。PE 比 FPR,管误判真实为负的人(假阳性)(p.22–23)。

7. Equalized Odds 和 EO、PE 是什么关系?

Equalized Odds 等于 EO 加 PE,要求 TPR 和 FPR 同时相等。满足它一定满足两者,反过来不成立(p.24)。

8. 基础率不同,SP 与 Equal Opportunity 一定冲突吗?

不一定。补充反例:两组各 1000 人,真实正例为 600、300,TP 为 480、240,FP 为 80、320。TPR 均为 0.8,选中率均为 0.56,同时满足 EO、SP;FPR 不同,因此不满足 PE。

下一讲

三个指标会算了,下一页讲它们之间怎么冲突:准确率与群体结果、群体与个体,以及三族划分和不可能性结论:L04b-3。

下一讲 →
L04b-3 L04b-3 公平指标会打架:准确率与群体结果、群体与个体、三族与不可能性

个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。