- 作者:朱迪亚·珀尔、达纳·麦肯齐
- 领域:因果推断/人工智能/科学哲学
- 解读模式:解释型
- 核心概念:因果关系之梯、因果图、干预、混杂、反事实、可识别性
- 关键争议:相关能否替代因果、因果知识从何而来、统计数据能否回答干预问题、机器能否形成真正的因果理解
仅仅发现事物共同变化,还不足以回答“为什么”;要预测行动的后果、解释已经发生的事情,并设想本可不同的世界,必须把因果假设明确写进模型。
这本书试图恢复“原因”在科学中的正当地位。很长时间里,统计学倾向于谨慎处理因果语言:数据可以显示吸烟者与肺癌患者之间存在关联,却不能单凭这种关联断言吸烟导致肺癌;可以发现某种治疗与康复同时出现,却不能直接认定治疗产生了效果。这种谨慎十分必要,但如果因此只允许谈相关性,科学便会失去最想回答的一类问题:采取某个行动会怎样?某件事究竟为何发生?如果当初换一种选择,结果是否会不同?
珀尔的回答不是放弃统计,而是在统计之上增加一套表达因果结构的语言。因果图负责表示我们对世界结构的假设,干预运算区分“观察到某事发生”与“主动让它发生”,反事实则帮助我们比较现实世界与可能世界。三者共同构成一套因果推理框架。它不能让数据自动说出原因,也不会消除科学判断中的不确定性;它真正改变的是:因果假设不必继续藏在自然语言和研究者直觉里,而可以被公开表达、检查、计算和反驳。
中心问题
全书面对的核心问题是:人类如何从“看见规律”走向“理解原因”,并让机器获得同样的能力?
传统统计与现代机器学习擅长从大量数据中提取关联。给定足够多的样本,系统可以估计一个人在某些特征出现时患病的概率,也可以判断购买某类商品的人通常还会购买什么。但这些能力主要处理“看到什么之后,通常还会看到什么”。一旦问题改成“如果采取一项行动,结果会怎样”,仅靠关联便可能失效。
例如,观察到服用某药的人死亡率更高,不能直接推断药物有害,因为病情更重的人可能更容易服药。观察中的“服药”既包含药物的作用,也携带患者原有病情的信息。相反,在理想随机试验中,服药由随机分配决定,治疗组与对照组在平均意义上不再因为病情严重程度而系统不同。两种情况下都能写成“服药者与未服药者的结果比较”,但它们回答的不是同一个问题。
更进一步,即使已经知道某项治疗总体有效,我们仍可能追问:这位病人之所以康复,真的是因为治疗吗?假如他没有接受治疗,是否也会康复?这不是对另一批人的观察,而是对同一个人在未实现条件下的结果进行推断。现实只发生一次,反事实无法被直接观察,却是责任判断、政策评估、医学归因和日常解释不可回避的形式。
因此,本书要填补的不是某个局部统计技巧的空白,而是三类问题之间的语言断层:看见了什么,做了某事会怎样,已经发生的结果本来能否不同。珀尔把它们组织为因果关系之梯,并主张智能的关键差异正在于能否沿着这架梯子向上攀登。
问题从何而来
近代统计学的成长伴随着一种对因果语言的戒心。两个变量共同变化,可能是一个导致另一个,也可能是方向相反,还可能是第三个变量同时影响二者。冰淇淋销量与溺水事件可能一同增加,但共同原因更可能是高温季节,而不是冰淇淋造成溺水。相关不等于因果,因而成为科学训练中最重要的警告之一。
问题在于,这句警告经常只告诉人们不能做什么,却没有提供一套足够明确的语言,说明在什么条件下可以从观察资料识别因果效应。研究者实际上仍在提出因果问题,也仍会依赖专业知识选择变量、设计实验和解释结果,只是这些因果前提常被埋在叙述、经验与统计程序背后。结果是,真正决定结论的结构假设反而难以检查。
随机对照试验为因果判断提供了一条有力路径。随机化切断了治疗选择与患者既有特征之间的系统联系,使组间差异可以归因于干预。然而随机试验并非处处可做:研究吸烟、战争、教育制度、环境污染或宏观政策时,实验可能昂贵、缓慢、不道德或根本不可执行。即便实验可行,也仍要处理不依从、样本流失、测量偏差和结果能否推广到其他人群等问题。
与此同时,数据规模的增长制造了一种新的诱惑:只要样本足够多、算法足够复杂,因果关系似乎终会从数据中自行浮现。珀尔反对这种设想。更多数据可以更精确地描述联合分布,却不能仅凭精度决定箭头方向。一组相同的相关模式,往往可能与多种因果结构相容。若不引入时间顺序、机制知识、实验信息或其他结构约束,数据本身通常无法在这些结构之间作出唯一选择。
这也是本书将因果革命与人工智能联系起来的原因。模式识别可以非常强大,却不自动等于理解。一个系统可以从历史数据中准确预测人的行为,但当政策改变、环境转换或人们针对预测结果采取行动时,旧有相关模式可能崩溃。要在变化的世界中推理,机器不仅要知道哪些变量曾经一起出现,还要表示行动如何改变世界,以及在不同条件下哪些机制仍会保持稳定。
关键区分
第一项区分是相关与因果。相关描述变量在数据中的共同变化;因果则包含方向和干预含义。若气压下降能够导致风暴,那么人为改变气压的设想与仅仅观察低气压所携带的信息并不相同。相关可以对称,因果方向却不能随意倒置。
第二项区分是观察与干预。“看到某人服药”意味着服药这一事实可能反映他的年龄、病情、收入和就医条件;“指定某人服药”则意味着研究者主动改变治疗状态,并尽量切断原有的选择机制。二者表面上使用同一个变量,背后的概率对象却不同。
第三项区分是干预与条件化。条件化是在既有数据中筛选出符合某条件的个体,世界的生成机制没有改变;干预则修改生成机制,使一个变量不再由原来的原因决定。把两者混为一谈,正是许多因果错误的来源。
第四项区分是总体效应与个体归因。总体效应比较人群在两种干预下的平均结果,适合回答政策或治疗通常是否有效;个体归因追问某个具体结果是否由某个具体原因造成,必须借助反事实假设。前者成立,并不意味着每一个受益者都因该干预而受益。
第五项区分是预测与解释。预测关注未知结果能否被准确估计,并不要求变量是真正原因;解释则关心结果通过什么机制产生。一个变量可能是很好的预测信号,却不是合适的干预目标。医院中的某项检查可能与死亡高度相关,但取消检查不会改善病人的健康,因为检查只是病情严重的标志。
第六项区分是因果效应与因果机制。估计一项治疗是否改变结果,并不等于已经知道它通过何种生理通路起效。反过来,提出一个看似合理的机制,也不等于已经证明总体效应存在。效应、机制和证据层级必须分别考察。
第七项区分是可计算性与可识别性。拥有一个算法,不代表数据足以确定目标因果量。可识别性先问:在给定因果假设与可观察数据的条件下,目标能否被唯一推出?只有答案为是,估计方法和样本精度才成为下一步问题。
概念地图
| 概念 | 精确含义 | 与其他概念的关系 | 在全书中的作用 |
|---|---|---|---|
| 因果关系之梯 | 将推理分为关联、干预、反事实三个层级 | 高层问题需要比低层更丰富的因果信息 | 组织全书对智能与因果能力的解释 |
| 因果图 | 用节点表示变量、用有向边表示直接因果关系的结构模型 | 将背景知识转化为可检查的路径结构 | 帮助识别混杂、选择调整变量并推导因果效应 |
| 干预 | 主动设定某变量,切断它与原有原因的生成联系 | 不等于观察条件或统计筛选 | 把“如果做某事”转化为明确的数学问题 |
| 混杂 | 某个共同原因同时影响处理与结果,造成或扭曲观察关联 | 可通过随机化、适当调整或其他设计处理 | 解释为什么观察差异不能直接当作因果效应 |
| 中介 | 位于原因通向结果的机制路径上的变量 | 与混杂变量的调整作用不同 | 用于分析总效应如何分解为不同路径的效应 |
| 反事实 | 对同一对象在未实现条件下可能结果的表达 | 建立在结构模型和干预语义之上 | 支撑归因、责任、遗憾与个体层面的因果判断 |
| 可识别性 | 目标因果量能否由观察分布与结构假设唯一确定 | 先于具体估计和计算 | 划定数据能够回答什么、不能回答什么 |
解释模型
珀尔用“因果关系之梯”说明不同问题需要不同层级的信息。
第一层是关联,即“看见”。它处理的问题是:观察到某个事实后,另一个事实出现的概率如何变化?天气预报、风险评分、图像识别和许多推荐系统主要在这一层工作。统计相关、条件概率和大多数监督学习方法可以在此发挥强大作用。它们能够发现稳定模式,却不必说明模式由什么机制产生。
第二层是干预,即“行动”。问题变为:如果主动使某件事发生,结果会怎样?这里必须区分自然发生的变量值与外力设定的变量值。观察到接受治疗的人可能意味着他本来病得更重;随机指定治疗则不再携带这层诊断信息。因果模型通过干预运算表达对生成机制的修改:目标变量被设定后,原来指向它的因果联系暂时被切断,而它对下游变量的影响仍然保留。
第三层是反事实,即“想象”。问题是:在已经知道现实发生了什么的前提下,如果当初采取另一种行动,结果会如何?这种推理同时使用事实证据与结构模型。它不是简单地寻找一个“与当事人相似但没接受处理的人”,因为真正的比较对象是同一个体在另一个可能世界中的状态。现实无法同时呈现两个结果,所以反事实结论比平均干预效应更依赖模型假设。
这三个层级不是按计算难度排列的同一种任务,而是语义不同的问题。底层数据再丰富,也不会自动包含高层问题所需的全部信息。关联可以帮助估计干预,但前提是因果结构告诉我们应该怎样消除混杂;干预结果可以支持反事实推断,但仍需要关于个体响应和机制稳定性的额外假设。
因果图在这套模型中承担了连接知识与数据的作用。研究者先把“哪些变量可能直接影响哪些变量”的判断表示为有向图。图中的路径让混杂关系变得可见:如果处理变量和结果变量之间存在一条由共同原因开启的后门路径,那么观察关联中就混入了非因果成分。适当控制某些变量,可以阻断这些路径,从而在一定条件下由观察数据识别干预效应。
但“控制更多变量”并不总是更好。如果控制的是原因与结果之间的中介变量,研究者可能截断真正想估计的总效应;如果控制的是两个变量的共同结果,还可能人为制造原本不存在的关联。因果图的重要性正在于,它将变量选择从机械的统计程序变成关于结构的推理。调整哪些变量,不取决于哪个变量与结果更显著,而取决于它在因果路径中的位置。
在某些问题中,即使存在无法直接测量的混杂,因果效应仍可能通过特殊结构被识别。例如,一个变量可能位于处理影响结果的中介路径上,而结构条件允许研究者结合不同的观察关系恢复干预效应。此类推导的意义并非提供一个万能公式,而是展示可识别性如何来自因果结构:数据是否够用,取决于问题、图和假设的组合,而不只是样本量。
反事实推理则在结构模型上再走一步。研究者先根据已经观察到的事实更新对个体背景条件的认识,再在模型中实施一个与现实不同的干预,最后推演结果。这个过程使“如果当时没有服药”“如果司机及时刹车”“如果招生政策不同”等问题获得一致语义。不过,模型越深入个体层面,结论通常越依赖无法直接检验的假设,因此表达时也应保留相应的不确定性。
证据与材料
本书既是一部因果推理的思想史,也是一部概念框架的通俗说明。它使用的材料并非都在承担同一种证明任务。
历史叙述首先用于解释因果问题为何长期受压抑。统计学强调相关与可观察量,有其防止轻率推断的合理背景;但作者借学科史说明,因果语言被排除后,许多真正关心的问题只能以隐含方式返回。这样的历史材料主要负责建立问题意识,不能单独证明某个数学框架优于所有替代方案。
医学与公共卫生案例承担了更直接的说明作用。治疗选择、吸烟与疾病等问题清楚展示了混杂:观察到的差异可能同时包含处理效应与人群构成差异。随机试验则作为对照,让读者理解为什么改变数据生成方式能够支持因果判断。这些案例的力量在于揭示结构,而非凭某一个故事概括所有医学研究。
因果图及其路径规则属于形式化材料。它们把自然语言中的前提转化为可推导结构,使研究者能够判断某个效应是否可由观察数据识别、应控制哪些变量,以及控制某些变量为何可能带来偏差。相较于故事性案例,这是全书最接近证明的部分:结论成立与否取决于图所表达的结构假设和相应的数学规则。
因果关系之梯更像一种组织性模型和认知类比。它有效展示关联、干预与反事实之间的信息差异,却不意味着现实智能可以被简单量化为三个离散台阶。人类推理也会犯因果错误,机器系统则可能在特定任务上处理干预问题,却没有完整的常识理解。因此,这架梯子用于建立直觉,不应被当成关于心智结构的全部实证理论。
书中关于人工智能的讨论具有两层地位。较稳固的一层是批评:只依赖历史相关性的系统,在分布变化、政策干预和策略互动中可能失灵。更具前瞻性的一层是主张:拥有因果模型、反事实能力,乃至对自身意图和他人意图的理解,是更一般智能的重要条件。前一层已有明确的方法论基础,后一层则仍是一项研究纲领,不能仅凭因果工具的成功便视为已经实现。
关键洞见
数据不会独自决定原因
“让数据自己说话”在描述性任务中具有吸引力,但因果问题总要依赖某些超出联合分布的信息。两个变量之间的关联可能对应多种箭头方向,也可能来自未观测的共同原因。时间顺序、机制知识、实验操作和制度背景并非污染数据的主观成分,而是区分这些结构所需的信息。
这一洞见改变了对客观性的理解。客观并不意味着消灭假设,而是明确假设、公开推导,并允许他人检查结论对假设有多敏感。因果图的价值不在于让研究者摆脱判断,而在于阻止关键判断继续隐身。
行动会改变数据所来自的世界
预测通常假定未来与过去由相近机制生成,但政策、治疗和人的策略行为会改变这些机制。一个用于预测谁更可能违约的模型,不一定能告诉银行降低某项费用是否会减少违约;一个能够预测学生退学的变量,也未必是适合干预的原因。
这意味着“预测准确”与“行动有效”必须分别验证。用于识别风险的人群标志可能只是结果的伴随信号,针对它采取措施未必有效,甚至可能产生反向后果。因果推理把注意力从静态规律转向机制在干预下如何变化。
变量选择本身就是因果判断
统计分析常把加入更多控制变量视为更严谨,但本书说明,变量在结构中的位置比变量数量更重要。控制混杂因素可能消除偏差,控制中介因素可能删掉真实效应,控制共同结果则可能打开虚假路径。
因此,所谓“其他条件不变”不是把所有可测量变量都固定住。研究者必须先明确自己想估计总效应、直接效应还是某条路径上的效应,再决定哪些变量应当进入分析。模型错误无法靠更多控制项自动弥补。
反事实是责任与解释的语法
人们说某次治疗救了病人、某个决定导致失败、某种行为应承担责任,通常都在隐含比较现实与一个未发生的世界。若没有反事实,这些判断只能停留在模糊直觉中。
形式化反事实并不会自动解决法律和伦理问题,因为责任还涉及意图、规范、可预见性和责任分配。但它能把事实因果问题从价值判断中分离出来:某行为是否改变结果,与行为者是否应受谴责,不是同一个问题。清晰区分二者,有助于避免用道德态度代替因果证据。
因果模型是可迁移知识的一种形式
纯粹的相关模式容易依赖特定数据环境,而机制知识在适当条件下更可能跨环境保持稳定。如果知道疾病通过何种通路影响症状,就比只知道某医院数据中症状与诊断的相关模式更有机会适应新医院、新人群或新政策。
不过,稳定性不是因果模型自动拥有的属性。机制也会随人群、制度和时间改变。可迁移的关键不是贴上“因果”标签,而是说明哪些结构被假定为稳定,哪些部分允许变化,并用新环境的证据持续检验。
解释力
这套思想首先解释了为什么一些统计上非常稳固的关系在行动后会消失。观察关系把世界原有的选择机制也编码进数据;干预改变了选择机制,因此旧条件概率不再等于行动后的结果概率。这个解释比笼统地说“相关不等于因果”更进一步,因为它指出差异来自哪里,并给出何时能够修正的结构条件。
它也解释了随机试验为何有效。随机化并非因为实验数据天然比观察数据真实,而是因为它主动破坏了处理变量与潜在共同原因之间的联系。这样一来,治疗组与对照组之间的结果差异更接近干预效应。图模型还能进一步说明,某些观察研究为何也可能识别因果效应:如果相关的后门路径能够被适当阻断,观察资料同样可以回答限定的干预问题。
对于科学解释,这一框架把“原因”从修辞性词汇变成了可操作对象。研究者可以明确区分总效应、直接效应与中介路径,判断不同证据究竟支持哪一层主张。它无法代替领域知识,却能帮助领域知识以更清晰的形式参与推理。
对于人工智能,它解释了模式识别与一般推理之间的一部分差距。系统若只学习输入与输出的统计映射,便难以判断主动改变输入会造成什么结果,也难以在规则变化时辨别哪些关联仍可信。因果模型为行动规划、环境迁移、解释和反事实评估提供了共同语言。
这套框架尤其擅长处理“问题是否可回答”。传统讨论容易直接争论某个估计值是多少,而可识别性分析先检查:即使有无限多同类型数据,目标是否仍存在多种可能答案?若答案是不可识别,继续增加同类样本只能提高对错误对象的精度。此时真正需要的是新实验、新变量、新结构知识,或更谨慎地缩小问题。
竞争性解释
一种竞争立场是严格的预测主义:科学和智能的目标就是提高预测准确率,因果概念只是一种方便的人类说法。这个立场在稳定环境、重复任务和不涉及政策改变的场景中很有力量。若任务只是识别图片或预测短期需求,复杂的因果模型未必带来足以抵消成本的收益。
珀尔框架的优势出现在行动、迁移和解释问题中。一个预测模型可以告诉我们谁更可能生病,却未必能告诉我们改变饮食是否会降低风险。预测主义并非错误,而是回答的问题较窄。真正的分歧不在于相关模型有没有价值,而在于能否把关联层面的成功外推为干预和反事实能力。
另一种立场以潜在结果框架表达因果效应。它把每个对象在不同处理条件下可能出现的结果作为基本对象,并通过随机化、可忽略性等条件进行推断。这一传统在统计学、医学和经济学中极其重要,与结构因果模型并非简单敌对。两者都承认因果问题不能由裸数据直接解决,也都重视反事实。
差异更多体现在表达重点。潜在结果框架常从处理效应与研究设计出发,适合清楚定义比较对象;图模型更强调多变量结构、路径、混杂与可识别性。很多实际研究可以同时使用二者:以潜在结果定义目标,用因果图说明识别条件。把它们描绘成只能二选一,会遮蔽方法之间的互补关系。
还有一种机制取向认为,真正的因果解释不能止于变量之间的箭头,而应揭示组成过程、实体活动与层级结构。这一批评提醒我们:图上的边可能只表示在选定尺度上的直接关系,并不自动说明具体机制。同一张统计因果图可能兼容多种微观过程。
图模型对此的优势是清晰和可计算,局限则是可能把复杂机制压缩为变量关系。更完整的科学解释往往需要把两者结合:图模型负责澄清干预和识别,机制研究负责说明箭头为什么存在、在哪些环境下会改变。
最后,因果发现研究尝试依据条件独立关系、时间信息、函数形式或环境变化,从数据中推断部分结构。这似乎挑战“因果结构必须完全由人提供”的说法。实际上,它更准确地说明了一个条件化结论:因果方向可以在附加假设下从数据中得到约束,但这些假设本身仍需被说明。算法不是从毫无前提的数据中提取原因,而是在特定结构条件下排除不相容的因果图。
边界与反例
因果图的第一重边界是结构假设可能错误。遗漏一个共同原因、误判箭头方向、把动态反馈压缩成静态关系,都可能使可识别性推导失效。形式化只能保证“若前提成立,则结论如何”,不能替研究者证明前提确实符合世界。
第二重边界是变量定义。贫困、教育质量、压力、能力和制度信任等概念往往无法被单一指标完整表示。即使箭头方向合理,粗糙测量也可能把多个不同机制塞进同一节点。因果推断的精确程度不会高于概念与测量的精确程度。
第三重边界是尺度迁移。个体层面的效应不能直接推出群体政策的长期结果,因为价格、规范、资源分配和策略行为会随政策改变。短期实验中有效的干预,也可能因适应、反馈和制度反应而在长期失效。静态无环图便于分析,却需要谨慎处理循环因果与时间演化。
第四重边界是总体效应对个体的限制。某治疗平均有效,不代表它对每个人有效;某因素提高总体风险,也不能证明它导致了某个具体个案。个体反事实通常比平均效应需要更强的假设,尤其不能仅凭群体相关性作出高度确定的归因。
第五重边界是可操作性。有些变量在模型中可以设想被干预,却不存在清晰、统一的现实操作。例如“提高教育”“减少压力”可能对应多种完全不同的行动。若干预定义含混,同一个因果问题实际上混合了不同版本的处理,估计值也就难以解释。
第六重边界涉及人工智能的宏大推论。因果推理很可能是更一般智能的重要组成部分,但它是否足以产生常识、意图理解、道德判断或自我意识,仍远未确定。一个系统能够计算反事实,不等于它理解责任;能够优化干预,也不等于它拥有价值判断。因果能力与道德主体性之间仍隔着规范、情感、社会关系和自我模型等问题。
反例也提醒我们,并非所有任务都需要升到因果之梯的高层。在稳定分布下进行图像分类,相关模型可能已经足够;若行动不会改变数据生成机制,追求完整因果模型可能增加成本而没有明显收益。因果方法的价值取决于问题类型,而不是一种凌驾于所有统计学习之上的通用优越性。
现实映射
在医疗决策中,风险预测与治疗选择必须分开。一个指标可以准确标记高危患者,却未必是有效干预点。临床研究需要追问:指标是疾病原因、中介、结果,还是共同原因的代理?只有明确结构,才能判断降低指标本身是否会改善结局。与此同时,医学机制复杂且人群差异显著,图模型应被视为可修订的假设,而非一次绘制后永久有效的答案。
在公共政策中,历史数据往往来自旧制度。若政府依据旧数据改变税收、补贴、招生或治安策略,人们也会调整行为,导致原有相关关系变化。因果思维促使决策者区分“谁更可能出现某结果”与“哪项政策能改变结果”,并检查试点结论能否迁移到不同地区和人群。不过,政策效果还包含分配正义、执行成本与政治合法性,不能被单一平均因果效应取代。
在平台推荐和内容治理中,点击概率并不等于内容对用户偏好的因果影响。推荐系统既观察偏好,也塑造暴露机会;长期使用后,用户兴趣、创作者策略和平台生态都会发生反馈。因果模型可以帮助区分选择效应与推荐效应,但动态系统中的循环关系、竞争行为和长期外部性,使简单静态模型容易低估复杂性。
在教育中,成绩与家庭资源、学校质量、同伴环境和选拔机制相互交织。观察到某类学校学生表现更好,不足以直接证明学校类型造成全部差异;随机试验又常受伦理和执行限制。因果图可以帮助明确需要处理的混杂与中介,但“教育质量”如何定义、不同学生是否异质响应,仍需具体研究。
在人工智能系统的部署中,训练数据记录的是过去规则下的行为。模型一旦参与信贷、招聘或执法决策,被预测者可能改变策略,机构也可能依赖模型重新分配资源。此时高预测准确率不保证干预结果良好。因果视角要求开发者说明:哪些关系被假定为稳定,模型输出会怎样改变环境,反馈是否会扩大原有偏差,以及替代决策可能产生什么后果。
这些映射并不意味着为现实问题画一张图就能得到答案。它们真正提供的是一套提问纪律:区分观察与行动,寻找选择机制,检查变量位置,说明迁移条件,并在反事实归因中保留不确定性。
思维训练
- 当前结论回答的是“看见什么”“做了什么会怎样”,还是“如果当初不同会怎样”?支持它的证据是否达到相应层级?
- 两个变量之间的关系可能有哪些方向?是否存在同时影响二者的共同原因,或由选择过程制造的关联?
- 所谓“控制其他条件”具体控制了哪些变量?其中有没有中介变量、共同结果或处理之后才产生的变量?
- 研究中的干预是否定义清楚?同一个变量名称是否掩盖了多种不同的现实行动?
- 一项结论依赖哪些结构稳定性假设?换到另一个人群、制度、时期或组织尺度后,哪些机制可能改变?
- 材料在推理中承担什么作用:证明因果、显示相关、举例说明、建立直觉,还是仅仅提出一种可能机制?
- 有没有另一套因果结构能够产生相似的观察数据?需要何种新实验、新变量或背景知识才能区分它们?
全书思想地图
- 问题
- 数据能够描述共同变化
- 科学与行动需要回答原因、干预和反事实
- 关联语言不足以覆盖这些问题
- 关键区分
- 相关不等于因果
- 条件化不等于干预
- 预测不等于解释
- 总体效应不等于个体归因
- 可估计不等于可识别
- 核心概念
- 因果关系之梯
- 关联:观察到某事后会看到什么
- 干预:主动做某事后会发生什么
- 反事实:若当初不同,结果会怎样
- 因果图
- 表示结构假设
- 识别混杂路径
- 区分混杂、中介与共同结果
- 可识别性
- 判断目标能否由数据与假设唯一推出
- 决定需要调整、实验还是新增信息
- 因果关系之梯
- 解释路径
- 观察数据来自既有生成机制
- 干预会修改其中一部分机制
- 因而观察概率不能自动替代干预概率
- 因果结构提供二者之间的转换条件
- 结构模型进一步支持反事实比较
- 证据
- 科学史说明因果语言被排斥的背景与代价
- 医学案例展示混杂和随机化的作用
- 图模型提供形式化的识别规则
- 人工智能案例显示相关学习在行动与迁移中的局限
- 洞见
- 数据不能脱离假设独自确定原因
- 行动会改变产生数据的世界
- 变量选择是一项结构判断
- 反事实构成解释与责任的基本语法
- 因果知识可能比表面相关更具迁移性
- 边界
- 图的正确性依赖领域知识
- 测量与变量定义可能失真
- 个体、群体和长期制度效应不能任意互推
- 反事实归因需要比平均效应更强的假设
- 因果计算不等于常识、价值判断或道德主体性
- 最终指向
- 因果科学不是用公式替代判断
- 而是把判断转化为公开、可检验、可修订的结构
- 让人类与机器不仅发现世界中的模式,也能谨慎推理行动如何改变世界