Anthropic工程师Addy Osmani警示AI时代“认知投降”:警惕依赖AI导致的独立思考能力退化
SmartHey11月4日消息,Anthropic Claude Code 团队工程师、前谷歌技术高管 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时,如何保持批判性思维》。
他指出,随着 AI 智能体能力持续增强,人类在享受效率提升的同时,正悄然滑向一种危险的认知惯性:不再质疑、不再验证、不再深究——将 AI 的输出直接等同于自己的判断。他将这一渐进式退化现象定义为“认知投降”(Cognitive Surrender)。
Osmani 在谷歌任职逾14年,曾主导 Chrome 开发者体验与谷歌云 AI 战略,现专注于 Anthropic 的 Claude Code 工程实践。
作为 AI 智能体工作流的深度使用者,他日常并行运行多个 Agent,却敏锐察觉一个反直觉趋势:AI 输出中的显性错误越少,人类保持审慎意识反而越难。
过去需数小时完成的信息搜集、逻辑推演与综合判断,如今被压缩至几秒。AI 生成的内容结构严谨、语言流畅,且多数情况下准确无误——这恰恰削弱了用户主动复核、追问依据、追溯推理链的动力。
Osmani 将人类与 AI 协作的认知状态划分为三个递进层次:
第一层是“认知卸载”(Cognitive Offloading):将任务交付 AI 执行,但仍以责任主体身份严格审查结果;
第二层是“推迟判断”(Deferral):默认跳过验证环节,直接将 AI 输出作为后续行动的前提;
第三层即“认知投降”(Cognitive Surrender):放弃主体性判断,视 AI 结论为自身结论,甚至丧失解释其逻辑的能力。
值得注意的是,“认知投降”概念最早由宾夕法尼亚大学沃顿商学院学者 Steven Shaw 与 Gideon Nave 提出。他们在论文《思考 —— 快速、缓慢与人工智能:AI 如何重塑人类推理及认知投降的兴起》中将其定义为:在缺乏充分检验的前提下接受 AI 输出,并允许其系统性取代人类直觉与推理过程。
Osmani 强调,这种转变极少突发,而是在高频使用中悄然固化:用户可能认真研读第一份 AI 报告,快速扫视第二份,到第三份仅浏览大纲;最终当被问及某项关键结论的依据时,才发现自己已无法还原推理路径。
他进一步将该现象与软件工程中的“认知债务”类比:AI 可高效产出通过全部测试的代码,但团队对系统底层逻辑、模块耦合关系与异常边界条件的理解却持续稀释。直到需要紧急修复或重构时,才惊觉无人真正掌握核心机制。
Osmani 并不主张回归“纯手工”开发。他坦言,Claude Code 团队也会借助 AI 快速重建对陌生代码模块的理解。关键不在“全知”,而在“自知”——清楚自己的知识盲区,并保有随时重建理解的能力。
为防范“认知投降”,他提出两项实操建议:一是在向 AI 提问前,先形成简明假设(哪怕粗糙),以此锚定独立判断坐标;二是在获得 AI 答案后,主动搜寻“证伪证据”,而非仅询问模型的置信度。
在软件开发场景中,他指出当前瓶颈已从“写代码”转向“验代码”:AI Agent 能自主编写、测试、调试、迭代,直至所有测试通过。但若测试用例本身由 AI 生成,且与代码共享同一逻辑偏差,那么“全绿”结果反而构成最大误导。
因此,开发者必须超越“是否通过测试”的表层判断,转而追问:这些测试究竟证明了什么?遗漏了哪些边界风险?对 AI 交付成果的验收,应基于可验证的事实——真实运行日志、终端截图、可观测指标,而非一段措辞完美的自然语言总结。
他还建议要求 AI Agent 明确披露其决策过程:包括自主作出的关键选择、隐含前提假设、以及主动忽略的约束条件。
随着 AI 并行处理能力跃升,另一挑战浮出水面——Osmani 将其称为“编排税”(Orchestration Tax):AI 生成成果的速度,远超人类审阅、理解与担责的节奏。当待审核内容持续积压,盲目增加 Agent 数量只会加剧失序。更优解在于强化自动化验证能力,或主动调控任务生成速率。
他同时发出技能退化预警:高度自动化可能使人类主动放弃基础能力训练。为此,他提倡开发者每周留出“无 AI 编程时间”,每月复盘已弱化的技能,并审慎评估哪些能力仍需长期保留。
引用 Anthropic 内部研究,他揭示了一个“监督悖论”:有效监督 Claude 需要扎实的编程功底,而过度依赖 Claude 又会加速该能力的退化。
Osmani 明确表示,这并非反对使用 AI,而是倡导“分层授权”:在低风险场景(如文档润色、会议纪要生成)可充分交托;但在涉及资金投入、职业发展、产品安全或影响他人福祉的重大决策中,人类必须守住最终判断权。
他在文末郑重写道:“你可以把工作和大部分审核交给 AI,但永远不能把责任也一并交出去。”
