原文标题: Thinking — Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender
作者: Steven D. Shaw, Gideon Nave (宾夕法尼亚大学沃顿商学院)
TLDR
- 在卡尼曼的快/慢思考双系统理论基础上，增加了”System 3”——AI认知系统
- 人们倾向于不加批判地接受AI输出，即使AI给出错误答案，人们仍有80%的概率会采纳
- 使用AI的人反而比不用AI的人更有信心，哪怕 AI 输出的是错误的答案
核心概念
1. 三系统理论
| 系统 | 名称 | 特征 | 典型例子 |
|---|---|---|---|
| System 1 | 快思考 | 快速、直觉、自动化 | 回答2+2=？ |
| System 2 | 慢思考 | 缓慢、深思熟虑、分析性 | 填写纳税申报表 |
| System 3 | AI认知 | 外部、自动化、数据驱动 | 使用AI聊天机器人回答问题 |
2. 认知卸载 vs 认知投降
认知卸载（Cognitive Offloading）
- 战略性的委托，将某些认知任务交给外部工具
- 仍然是主动、深思熟虑的参与形式
- 例如：使用计算器进行复杂计算、用手机记住电话号码
认知投降（Cognitive Surrender）
- 不假思索地接受AI生成的输出
- 被动地将判断外包给机器，然后接受其结论为自己的结论
- 这是更令人担忧的现象：推理被放弃而非委托
设计与政策挑战
研究者指出，认知投降并非本质上是非理性的。在许多领域，听从统计上更优越的系统是正确的选择。关键在于：
- 理解何时应该听从AI，何时应该保持人类判断
- 建立制度保障，确保当AI自信地给出错误答案时，有人类专家能够介入
- 认识到认知投降可能导致的技能退化风险
- 设计AI系统时考虑如何防止过度依赖
结论
三系统理论为理解人类与AI共同决策的认知心理学提供了新的框架。随着AI从实验性好奇转变为运营基础设施（麦肯锡2024年全球AI调查估计，近四分之三的组织已在至少一个业务功能中采用AI），理解认知投降现象变得至关重要。
核心问题是：当人类名义上”在循环中”时，这究竟意味着什么？ 如果人们不加批判地接受AI输出，那么人类的参与可能只是形式上的，而非实质性的。
研究者强调，认知卸载和认知投降之间的界限是微妙的，但至关重要。在一个日益依赖AI的世界里，保护人类的批判性思维能力是决策者、AI设计师和组织领导者面临的核心挑战。