【第362期】（中文）CoT思维链：AI在“思考”还是在“编故事”？——深度解读《思维链不等于可解释性》

Seventy3：借助NotebookLM的能力进行论文解读，专注人工智能、大模型、机器人算法方向，让大家跟着AI一起进步。

今天的主题是：

Chain-of-Thought Is Not Explainability

Summary

这篇研究文章探讨了思维链（CoT）在大型语言模型（LLMs）中的可解释性，认为其虽然能提高性能并提供看似透明的推理过程，但往往无法真实反映模型的内部计算。作者们综合了多项研究证据，指出CoT解释可能因偏见、静默错误修正和逻辑捷径等原因而不忠实，导致用户对AI决策产生错误的信任。文章提出了三种改进CoT忠实性的研究方向：确保因果关系、借鉴认知科学方法以及增强人类对AI推理的监督，以期实现更可靠和可信赖的AI系统。此外，研究还通过自动化管道分析了近期论文，发现约25%的CoT相关论文错误地将CoT视为一种提高模型可解释性的技术，强调了当前对CoT作用的普遍误解。

原文链接：https://aigi.ox.ac.uk/wp-content/uploads/2025/07/Cot_Is_Not_Explainability.pdf