第五期回顾：观察、干预与想象——因果的三级阶梯

【从因果层级切入：观察、干预、反事实】 讨论以“三层次认知阶梯”为起点，指出人类在约五万年前经历认知革命，获得超越动物的因果推理能力。机器学习系统目前仅能完成第一层——从数据中识别关联，如“买牙膏的人更可能买牙线”。但当问题升级为“如果涨价，销量会怎样？”时，系统就失效了，因为它无法模拟干预。 【质疑大模型的“推理”能力】 当前大模型所谓的“思考”不过是语言模式的高阶拟合。它能模仿“因为维生素C能预防坏血病”这样的因果句式，但无法真正理解“为什么”——它不知道维生素C如何作用于人体，也无法想象“如果没有吃维生素C，病人会怎样”。这种“模仿”被形容为“在相关性上做到极致”，而非真正的理解。 【用反事实思维揭示机制】 讨论深入到第三层——反事实推理。举出“法官下令、两名士兵开枪、犯人死亡”的例子，提出关键问题：“如果A不开枪，犯人还会死吗？”答案是会，因为B仍会开枪。因此A不是死因，真正的原因是法官的命令。这说明，只有通过想象“若无此因，结果是否不同”，才能剥离伪因、识别真实机制。同时，也初步涉及了因果的充分条件和必要条件的讨论。 【对比AlphaGo与大模型的决策结构】 AlphaGo虽用神经网络预测落子，但仍依赖蒙特卡洛树搜索进行多步推演，具备“前瞻—回溯”能力；而大模型是单向生成，生成一个词后即遗忘前文，无法回头修正、无法评估替代路径，本质上是“概率输出机”。 【对“图灵测试”的重新审视】 图灵测试可能已失去意义——大模型能骗过人类对话，但无法回答一个简单的因果问题。Pearl的“迷你图灵测试”——让AI回答因果问题——反而是更复杂的。 【机制的本质是路径，而非相关性】 吃水果防坏血病是相关性，维生素C是中间变量，而真正的机制是“维生素C如何参与胶原蛋白合成”——这需要从分子层面解释，而AI连第一步“排除伪因”都做不到，遑论构建路径。 结尾处，讨论承认对第三层级的反事实机制仍感模糊，可能需要在后续的文本中进一步理解作者的思路。但明确了一点：AI可以模仿因果语言，但无法拥有因果思维。