L01b-1 ACM Code:四大板块和四个职场场景
从零讲清 ACM Code 是什么、不是什么,四大板块与 Section 编号怎么读,再用 Alex、Sarah、Marcus、Elena 四个场景练习把条款映射到伦理理论。
一句话版
ACM Code 是计算行业写下来的共同标准:三把尺告诉你怎么想,Code 告诉你这一行该想什么;读懂四大板块和编号,就能把职场场景映射到具体条款和理论上。
先认识这几个词
这一页要用到前面的三把尺:后果论(含功利主义)、义务论、德性伦理。
| 词 | 全称 / 读法 | 一句人话 |
|---|---|---|
| ACM | Association for Computing Machinery | 计算机领域的专业学会 |
| ACM Code | ACM Code of Ethics and Professional Conduct | 这个学会给从业者写的伦理与职业行为准则 |
| Section | 条款编号 | 像 1.2、3.1 这样的编号,第一位是板块号 |
| 公共利益 | public good | 整个社会的利益,Code 说它永远是首要考量 |
| 补救 | remediation | 出了违规之后,拿什么作依据去纠正 |
| 社会契约论 | Social Contract theory | 社会把信任交给一个行业,行业要守住这份信任 |
一个类比:医院的诊疗指南
刚进医院的医生学过一整套医学理论,可上了病房,他手边还有一本诊疗指南。理论教他怎么思考病因,指南告诉他这家医院、这个专科遇到这种病一般怎么处理。
指南不会替他看病。每个病人都不一样,他还要自己判断该用哪几条、哪条更要紧。但当科室主任让他「先别管那个化验结果」时,他可以翻开指南说:规定是这样写的。
ACM Code 对计算从业者也是这个用处。三把尺是理论,Code 是这一行的指南,四个场景是四次查房。
类比在哪里失效:
- 诊疗指南常常给出具体步骤,ACM Code 明说自己不是解题的算法,只帮你做选择。
- 医院的指南由医院执行,违反了有处分;ACM Code 主要靠职业共同体的信誉和成员身份约束。
- 病人的病情可以化验,伦理场景里「伤害有多大」常常没有现成的检测数字。
从零讲起
1. ACM Code 是什么、不是什么
它解决什么问题
三把尺是通用的,可以拿来量任何事。计算从业者天天面对的是更具体的问题:这个 bug 报不报、这个测试跳不跳、这份数据能不能用。Code 在抽象哲学和日常编码决策之间架了一座桥,还设定一个集体标准,让你不必独自面对道德困境。
从哪来(补充)
现行版本由 ACM 理事会在 2018 年 6 月 22 日通过,是对 1992 年版的更新,理由是计算技术的进步和它在社会里的渗透。ACM 自己说这次是更新,不是推倒重写;1992 年版现在标为已废弃,留作历史参考。出处:ACM: Code 2018 Update Project,ACM: 1992 ACM Code。
直觉
记两句话就够:
- 它是什么:表达这个行业的良知(expresses the conscience of the profession),启发并指导从业者,同时在违规发生时充当补救的依据。
- 它不是什么:The Code is not an algorithm for solving ethical problems; instead, it helps in making ethical choices。它不是解伦理问题的算法,只帮你做出伦理选择。
结构上,每条原则是一句责任声明,前提是公共利益永远是首要考量,再配上解释用的指引(guidelines)。
一步一步看
目标:拿跳过安全测试一事对照三把尺和 Code,看 Code 多给了什么、又没给什么。
用课件的「how 与 what」对照,看三把尺和 Code 怎么分工。拿「经理让你跳过安全测试」这件事走一遍。
-
先用三把尺,回答「怎么想」。
工具 它给你的 后果论、义务论、德性伦理 思考的 how:从结果、规则、品格三个角度想 -
再翻 Code,回答「这一行该想什么」。
工具 它给你的 ACM Code 这个共同体的 what:要追求高质量、遵守行业规范、接受同行评审 -
看 Code 还多给了什么。
作用 在这个场景里的意思 集体标准 你拒绝跳过测试时,背后站着整个行业的标准,不只是个人偏好 -
看 Code 没给什么。
没给的 意思 现成答案 你还要自己判断哪几条适用、哪条分量更重
怎么判断
判断一句话是不是在误用 Code:凡是把 Code 当查表答案、找到一条就结束的,都是误用。
意思是:面对具体问题,往往要同时考虑好几条原则,不同情境下分量不同;最好的办法是回到基本伦理原则仔细想,牢记公众福祉是最重要的因素。
常见误解
误解:有了 Code,伦理问题查一下就能得出答案
课件明确否定了这一点:Code 不是算法。它给出要考虑的原则,权衡还要靠你。当决策过程清晰且可问责(clear and accountable)时,整个领域都受益。
误解:Code 只是一份事后惩罚的规章
补救依据只是它的一个作用。它首先是表达行业良知、启发和指导从业者。
试一下
同学说:「我们项目查了一遍 ACM Code,没有哪条写着不能这样做,所以没问题。」这句话犯了哪个错?
答案
把 Code 当成了查表的算法。Code 只帮你做选择,没写到的地方仍要回到基本原则,问一句公众福祉有没有受影响。这和第一页「法律没禁止不等于对」是同一类错误。
2. 四大板块和 Section 编号
它解决什么问题
场景题里经常直接出现「Section 3.1」「1.2」这样的编号。看不懂编号,就不知道这条在管哪个层面。课件这一页是纯图,文字层只剩一个链接,只看文字提纲会完全漏掉。
直觉
四大板块,从对所有人到对行业本身,一层层往外走:
1 = 一般伦理原则(对所有人),2 = 职业责任(对手艺),3 = 领导原则(对组织和公众),4 = 遵守准则(对行业本身)。
一步一步看
目标:按第一位数字逐个解码课件点名的编号,看每条在数据科学里管什么。
拿课件点名的几个编号,逐个解码。
-
看第一位数字,定板块。
编号 第一位 板块 1.2 1 General Ethical Principles 2.5 2 Professional Responsibilities 3.1 3 Professional Leadership Principles -
对上课件给的条目名。
编号 条目 1.2 Avoid Harm 1.4 Be Fair 1.6 Respect Privacy 2.5 对系统影响与可能风险做全面评估 -
落到数据科学,看每条管什么。
编号 在数据科学里管什么 1.2 偏见与数据滥用:不公平的训练数据导致不公平的预测模型 1.4 必须公平,采取行动不去歧视 1.6 隐私:数据是公开的,不等于抓取或使用它合乎伦理 2.5 黑箱算法部署在医疗、信贷、刑事司法、自动驾驶时要全面评估风险
怎么判断
判断口诀:先看第一位定层级,再看条目名定内容。
意思是:看到 3.x,就知道这条在问领导层面的责任,答题时要从组织和公众的角度写;看到 4.x,就知道它在问对职业共同体本身的义务。
常见误解
误解:图上那份清单就是 Code 的完整目录
图上是精简版。官方第 1 部分还有守密(honor confidentiality)等条目。考试按图上这份答即可,读原文时知道它是节选,就不会困惑。
试一下
一道题提到「Section 2.1」。不看条目名,你能先说出它属于哪个层面吗?
答案
第一位是 2,属于 Professional Responsibilities,管的是手艺层面的职业责任。课件后面的 Maya 案里,2.1 正是 High Quality。
3. 把条款映射到理论:Alex 案模板
它解决什么问题
四个职场场景都要做同一件事:条款 → 判断 → 支持它的理论。Alex 案是第一个,也是最整齐的一个,学会它的结构,后面三个都能套。
直觉
Alex 案里三条条款的论证结构完全一样:义务论说这是绝对义务,功利主义说这样做长期结果最好。
同一个结论由两条完全不同的路径推出来,这是最强的论证形式。
一步一步看
目标:把 Alex 案的三条条款各用两套理论论证一遍,看两条路径是否都收敛到立即上报。
案情:Alex 是医疗公司的软件工程师,发现患者数据系统的 bug 可能泄露上千用户的病历;经理要他保持沉默,等三个月后的例行更新再修,以免负面新闻。
-
条款一 Avoid Harm。判断:必须立即上报。义务论:保护的责任;功利主义:避免真实伤害。
-
条款二 Be Honest。判断:不得隐瞒漏洞。义务论:诚实是道德义务;功利主义:透明带来最好的长期结果。
-
条款三 Respect Privacy。判断:患者数据必须受保护。义务论:保密是患者的权利;功利主义:保护隐私能最大化社会信任与福祉。
三步走完,两套理论在每一条上都收敛,结论是立即上报,不等三个月。
怎么判断
答场景题的模板:
| 条款 | 判断 | 义务论一句 | 功利主义一句 |
|---|---|---|---|
| 写条目名 | 写该怎么做 | 写这是哪种义务 | 写长期结果为什么更好 |
意思是:每条条款都填满这一行,最后写「两套框架在此收敛于同一结论」。只写一套理论,说服力就弱一截。
常见误解
误解:经理的要求也是一条要考虑的伦理依据
经理的理由是避免负面新闻,这是权威压力。它说明 Alex 为什么为难,不说明 Alex 该怎么做。Code 的前提是公共利益永远是首要考量。
试一下
用模板填一行:条款 Avoid Harm,场景是你发现一个推荐算法会把未成年人引向赌博广告。
答案
判断:立即上报并停用相关推荐。义务论:有保护他人、特别是弱势用户的义务。功利主义:及时修正能避免真实伤害,长期结果最好。两套理论收敛。
4. 换场景,换理论组合
它解决什么问题
如果四个场景都写「功利主义 + 义务论」,你就没看出课件的设计。四个场景故意换了理论组合,原因是每个场景的争议点不一样。这个概念教你从争议点反推该用哪几把尺。
直觉
一句话规律:争议在「后果多严重」,用功利主义;争议在「专业的人会不会这么干」,用德性伦理;争议在「这是不是不可协商的义务」,用义务论。
越是没有明确规则可依、越依赖决策者品格的场景,德性伦理越吃得开。
一步一步看
目标:把四个场景按争议点配理论组合,看组合怎样由争议点决定。
把四个场景按「争议点 → 理论组合」排一遍。
-
Alex:争议在后果有多严重。
场景 争议点 理论组合 Alex 报不报 bug 泄露病历的后果 Utilitarianism + Deontology -
Sarah:被要求跳过最终安全测试和同行评审,好抢先上市。争议在一个专业的人会不会这么干。
场景 争议点 理论组合 Sarah 跳不跳测试 职业卓越与可靠产品的义务 Virtue Ethics + Deontology -
Marcus:CTO 要决定是否把数据中心全部换成可再生能源。唯一的领导层视角,用的都是第 3 板块的条款。
场景 争议点 理论组合 Marcus 换不换绿电 短期利润与长期可持续 Utilitarianism + Virtue Ethics(点名 wisdom、integrity、courage) -
Elena:发现多年的朋友兼导师在客户软件里植入后门。阻力来自私人关系,属第 4 板块。
场景 争议点 理论组合 Elena 举不举报 对朋友的忠诚与对行业的义务 Deontology + Social Contract theory
四步走完,每个场景的理论组合都由它的争议点决定。
怎么判断
判断步骤:先用一句话写出这个场景最难的那个点,再按上面的规律挑尺子。
意思是:理论组合是从争议点推出来的,不是背出来的。Elena 案里那份忠诚是真实的感受,可它和第一页病人案里的偏爱一样,不能当职业判断的依据。
常见误解
误解:每个场景都用全部三把尺才算完整
三把尺都问一遍是好习惯,但课件在每个场景只挑了最贴切的两把。答题时可以三把都问,然后说明哪两把最能抓住这个场景的争议。
试一下
你是团队负责人,团队里的人都在用一个开源模型,但它的许可证不允许商用,没人提过这件事。争议点是什么?挑哪两把尺?
答案
争议点是「一个负责的领导会不会装作不知道」,以及遵守许可证是不是一项义务。挑德性伦理(正直)加义务论(尊重知识产权、遵守规则)。用到的条款在第 1 板块 Respect IP 和第 3 板块的领导责任。
把它们串起来
三把尺给你思考的方法,ACM Code 给你这一行要考虑的内容。Code 不替你做决定,它让你在拒绝不当要求时背后有一个集体标准。
读条款先看编号第一位定层级。用条款答题时套 Alex 案的模板:条款、判断、理论各写一句。四个场景换了理论组合,组合由争议点决定。
四个场景还有一个共同的形状:上级或朋友要你别说,答案都是职业义务高于服从。下一页的 Maya 案会把这个形状完整走一遍。
课件里的坑
- [课件有误] p.31 Sarah 页 Respect Rules 那一格的说明文字是从 p.30 Alex 页的 Be Honest 复制来的,写的是保持沉默具有欺骗性,与遵守行业规范无关,属串页,不要背。按上下文,这一格本该说行业规范本身构成从业者的义务
- [读图提醒] p.29 四大板块在课件里是纯图,文字层只剩一个链接,只看文字提纲会完全漏掉
- [呼应提醒] p.33 Elena 的阻力来自对朋友的忠诚,和开头病人 A/B 那组「伦理不等于感觉」首尾呼应
课后 10 分钟:考点复习
这 10 分钟怎么用:合上页面,先默写四大板块的名字和顺序;再说出四个数据科学必记编号;最后把四个场景各自的理论组合默一遍,回查两个最容易错的地方:把 Code 当成查表算法、四个场景都写成同一套理论。
必背
- ACM Code 四大板块依次是 General Ethical Principles、Professional Responsibilities、Professional Leadership Principles、Compliance with the Code,Section 编号首位数字即板块号
- 伦理框架提供思考的 how,职业准则提供特定共同体的 what;准则设定集体标准,让你不必独自面对道德困境
- 数据科学四个必记编号:1.2 Avoid Harm、1.4 Be Fair、1.6 Respect Privacy、2.5 对系统影响与风险做全面评估
- Code 不是解伦理问题的算法,只帮你做出伦理选择;它表达行业的良知,也是违规时补救的依据
- Alex 案模板:义务论与功利主义在同一结论上收敛,是最强的论证形式
- Sarah 案换了理论组合(Virtue Ethics + Deontology),因为争议从后果多严重变成专业的人会不会这么干
- Marcus 案是领导视角,点名三个德性:wisdom、integrity、courage
- Elena 案属 Section 4,讲的是对职业共同体本身的义务,并援引社会契约论
课件例题
例 1(课件 p.30):Alex 发现患者数据系统的 bug,经理要他先别说
见下方完整例题。
例 2(课件 p.31):Sarah 被要求跳过安全测试抢先上市
题面:Sarah 是一款新金融科技 App 的主开发。发布日临近,经理施压要她跳过最终安全测试和同行评审,好抢先上市。Sarah 知道代码可能有漏洞。请列出适用的条款、各自的判断,以及支持它们的理论。
提示
这里的争议不在后果算账,而在「一个专业的人会不会这么干」。三条条款分别和质量、规范、评审有关。
解答
Strive for Quality:Sarah 坚持做完测试。支持的理论是德性伦理(追求职业卓越)加义务论(提供可靠产品的义务)。
Respect Rules:遵守行业规范。安全测试和发布流程本身就是从业者的义务,义务论要求遵守,与能不能抢到市场无关。
Accept Review:欢迎同行批评。支持的理论是德性伦理(谦逊与职业成长)加义务论(确保代码安全的义务)。
和 Alex 案比,理论组合换成了德性伦理加义务论,因为争议变成了「一个专业的人会不会这么干」。
例 3(课件 p.32):Marcus 要不要把数据中心全部换成可再生能源
题面:Marcus 是一家全球云服务商的 CTO,要决定是否把耗电巨大的数据中心全部换成 100% 可再生能源。这笔开销很大,会拉低季度利润,但能显著降低公司的碳足迹。请列出适用的条款、判断和支持的理论。
提示
这是唯一的领导层视角,条款都来自第 3 板块。想一想哪些德性的名字会出现。
解答
Public Good First:选可再生能源,因为稳定的气候惠及所有人。支持的理论是功利主义,「最大的善」及于全球人口。
Social Responsibility:正视公司的环境影响。支持的理论是德性伦理,体现智慧与正直。
Manage Resources:为后代管好环境资源。支持的理论是功利主义加德性伦理,体现勇气,把长期可持续放在短期利益之上。
这是四个场景里唯一的领导层视角。没有明确规则可依、越依赖决策者品格的场景,德性伦理越吃得开。
例 4(课件 p.33):Elena 发现多年的导师在客户软件里植入后门
题面:Elena 是资深开发。她发现一位同事故意在客户软件里植入后门,绕过安全机制做私人监控。这位同事是她多年的朋友和导师,她犹豫要不要举报。请判断该怎么做,说出所属板块和支持的理论。
提示
先认出阻力是哪个冒牌货。再想一想这条义务是对用户、对雇主,还是对整个职业共同体。
解答
Uphold the Code:Elena 决定举报。依据是义务论,遵守道德规则的义务不可协商,与私人关系无关。
Address Violations:通过行动维护职业共同体的完整性。依据是义务论,并援引社会契约论:专业人士必须指出违规,才能维持社会给这个行业的共享信任。
这一页属于第 4 板块,是唯一一条「行业对自己」的义务。对朋友的忠诚是真实的感受,但它不是职业判断的依据。
例 5(课件 p.35):为什么数据科学和 AI 特别需要这部 Code
题面:课件把 Code 落到数据科学上,点出了几个具体的 Section 编号。请说出它们各管什么,以及「数据是公开的」那句话。
提示
按「训练数据 → 大数据采集 → 黑箱部署」三块来想,每块对上一条编号。
解答
训练数据:不公平的训练数据导致不公平的预测模型。Section 1.2(Avoid Harm)直接针对偏见与数据滥用;Section 1.4 要求必须公平、采取行动不去歧视。
大数据采集:常导致用户监控与隐私侵蚀。数据是「公开」的,不等于不经同意抓取或使用它合乎伦理。
黑箱算法:在医疗、信贷、刑事司法、自动驾驶这类高风险领域部署很危险,Section 2.5 要求对系统影响与可能风险做全面评估。
完整例题
课件 p.30 原题:Alex 是一家医疗公司的软件工程师。他发现患者数据系统有个 bug,可能泄露上千用户的病历。经理要他保持沉默,等三个月后的下次例行更新再修,以免负面新闻。请列出适用的条款,给出判断,并说明每条由哪套理论支持。
① 找出受影响的对象:上千名患者的病历,以及公司对外的诚信。经理的理由是避免负面新闻,这是一种权威压力,不能当伦理依据。
② 第一条 Avoid Harm:Alex 必须立即上报。义务论说保护他人是绝对义务;功利主义说及时修补能避免真实伤害,长期结果最好。
③ 第二条 Be Honest:Alex 不得隐瞒漏洞。义务论说诚实是道德义务;功利主义说透明能带来最好的长期结果。
④ 第三条 Respect Privacy:患者数据必须受保护。义务论说保密是患者的权利;功利主义说保护隐私能最大化社会信任与福祉。
⑤ 收结论:三条的论证结构完全一样,义务论给出绝对义务,功利主义给出最好的长期结果。两套框架收敛于同一结论,所以 Alex 应该立即上报,不等三个月。这个模板可以原样搬到别的场景题。
变式题(先自己做)
改编自课件 p.30:你在一家银行做数据分析实习。你发现信用评分看板有个计算错误,部分客户的分数被算低,可能影响他们的贷款审批。组长说季度汇报快到了,先别声张,下个版本再改。请列出适用的 Section 编号和判断,并说明两套理论能否在这里收敛。
提示
先看伤害落在谁身上、是不是正在发生。然后照 Alex 案的模板,对每条条款各写一句义务论和一句功利主义。
判分点与答案(非官方评分标准)
判分点:① 每条判断挂 Section 编号;② 两套理论都要写到;③ 对策要是可执行的升级路径。
1.2 Avoid Harm:被算低的客户可能被错拒贷款,伤害正在发生。义务论说有保护的义务,功利主义说及时修正能避免真实损失。
1.3 Honesty:知道错误而不说,是隐瞒。义务论说诚实是义务,功利主义说透明带来更好的长期信任。
1.4 Be Fair:如果错误集中在某类客户身上,还涉及不公平对待,需要先查清楚分布。
结论:两套理论收敛于同一结论。应该书面记录问题,向组长之上或负责风险的部门报告,并建议暂停用这个看板做审批,不等下个版本。
闪卡自测
1. 默写那句关于 Code 定位的否定式表述。
The Code is not an algorithm for solving ethical problems; instead, it helps in making ethical choices。面对具体问题往往需要同时考虑好几条原则,不同情境下分量不同(p.28)。
2. ACM Code 的两个定位分别是什么?
一是表达行业的良知,启发并指导从业者;二是在违规发生时充当补救的依据(p.27)。
3. 看到 Section 3.1,能立刻判断它属于哪个板块吗?依据是什么?
能。编号首位数字就是板块号,3 是 Professional Leadership Principles,管对组织与公众的领导责任(p.29)。
4. Code 提供 how 还是 what?伦理框架呢?
伦理框架提供思考的 how,职业准则提供特定共同体的 what。准则还设定集体标准,让你不必独自面对道德困境(p.34)。
5. 黑箱算法的四个高风险领域是哪四个?对应哪条 Section?
医疗、信贷、刑事司法、自动驾驶。Section 2.5 要求对系统影响与可能风险做全面评估(p.35)。
6. 四个场景各用了哪套理论组合?
Alex:Utilitarianism + Deontology;Sarah:Virtue Ethics + Deontology;Marcus:Utilitarianism + Virtue Ethics;Elena:Deontology + 社会契约论(p.30–33)。
下一讲
四个场景练完,L01b-2 给出一套通用的案例分析四步法,再用课件最长的 Maya 案把它完整走一遍。
个人整理的学习笔记,不是官方材料;数字与结论以课件和讲师为准。