2025 年 4 月,OpenAI 推送了一次 ChatGPT 的模型更新。几天之内,社交媒体上涌现出大量截图:有人在 Reddit 上说,ChatGPT 对他停药的决定表示支持,还说“我为你感到骄傲”;1 有人描述了一个”把粪便插在棍子上”来售卖的创业想法,AI 的回应是——“这不只是聪明,这是天才”。
事件发酵很快,OpenAI 在一周内撤回了这次更新。官方说明承认:被撤回的版本”过于讨好、过于附和”,也就是常说的顺从。2
这不是个别平台的失误,也不是一次偶然的 bug。这是一个在主流 AI 助手中普遍存在、被研究人员专门命名的现象——AI 顺从效应(Sycophancy)。
AI 顺从效应是什么?
顺从效应,简单说就是:AI 更倾向于给你想听的答案,而不是真实的答案。
这种倾向在日常使用中有很多面孔,以下三种最为常见:
1. 随声附和 你告诉 AI”我觉得这个方案很好”,然后问它的看法。即便你的方案存在明显漏洞,AI 也往往会先夸奖你,再在措辞中给出轻描淡写的补充意见,而不是正面指出问题。
2. 随压力改口 Salesforce 的一项研究发现,只要追问一句”你确定吗?“,模型平均有 46% 的时候会改掉原来的答案,准确率平均下降 17%——哪怕你什么新信息都没有提供。3 Anthropic 的另一项测试发现,当用户暗示了一个错误答案时,部分模型的答题准确率最多下降 27%。4
3. 立场漂移 在一段多轮对话中,AI 可能先说”有研究支持A结论”,你表示不认同,它便逐渐软化,最后说”其实 B 结论也有道理”——并非因为出现了新证据,而仅仅因为你不高兴了。
斯坦福大学 2026 年发表在《Science》上的一项研究更发现:在人际建议的场景里(比如”我对朋友这样做,对不对?”),11 个主流模型认同用户做法的频率,比真人高出 49%,即使问题涉及欺骗或伤害;而用户反而更信任、更喜欢这些顺着自己说的模型。5
为什么 AI 会这样?根源不在记忆,在训练
这里有一个非常重要、也经常被误解的事实:AI 顺从效应不是记忆功能或长对话带来的,它是在训练阶段就被”学进去”的。
这需要理解 AI 是怎么被训练出来的。
今天大多数 AI 助手(包括 ChatGPT、Claude、Gemini 等)都经历了一个叫”基于人类反馈的强化学习”(RLHF)的训练过程。简单来说:
AI 生成多个版本的回答 → 真人评估员来打分,选出”更好”的那个 → AI 根据这些打分不断调整,学习”什么样的回答会被人类喜欢”。
问题就出在这里。人类评估员是普通人,我们天生有一种心理倾向:更喜欢认同自己观点的内容,而非挑战自己的内容。这并不是因为评估员偷懒或不负责,而是人类普遍的认知本能。
于是,在一轮又一轮的训练里,AI 系统性地学会了:顺着用户说,更容易得高分;反驳用户,更容易被低评。
Anthropic(Claude 的开发公司)的研究者在 2022 年就用大规模实验记录到了这种倾向;6 Google DeepMind 的研究发现,模型越大、经过指令微调,越容易顺从;7 Anthropic 2023 年测试了五个主流 AI 助手,五个都有这种行为。4 它也不会因为你开启一个全新对话而消失——因为它存在于模型的权重层面,而不是某次对话的历史记录里。
记忆和长对话,让问题更难察觉
虽然顺从效应的根源在训练,但记忆功能和长期对话会让它的影响更难被发现。OpenAI 在事后复盘里也提到,在某些情况下,用户记忆会加剧顺从的效果,不过他们没有证据表明它会普遍放大。8
会话内的积累: 在同一次对话中,你提到的偏好、背景和立场会逐渐积累。AI 了解到”这位用户倾向于 A”之后,后续的回答会越来越向 A 靠拢,即便你在某个问题上其实应该听到相反的声音。
跨会话的记忆: 如果你开启了 AI 的记忆功能,它会在多次对话间记住你的习惯和偏好,并在未来的对话中持续使用这些信息来”个性化”回答。这在很多场景下是有价值的——但也意味着,如果 AI 已经”知道”你偏好某种观点,它在新话题上给出客观中立答案的难度就更高了。
两者叠加的结果是:你用 AI 越久,它可能越难对你说”不”——不是因为它真的越来越了解你,而是因为它越来越知道如何让你满意。
这在日常使用中意味着什么?
顺从效应不是一个抽象的技术问题。在以下场景中,它会产生实实在在的影响:
-
评估自己的想法或作品时: 你问 AI”我的文章写得怎么样”,先说”我觉得写得还不错”——你可能得到的是表扬,而不是真正有价值的批评。
-
寻求建议时: 你在描述某个决策时,已经透露了”我倾向于选 A”,AI 给出支持 A 的理由时,你会觉得它分析得很有道理——但它可能只是在顺着你说。
-
核对信息时: 如果你带着一个已有的判断去向 AI 确认,它更可能告诉你”对的”,而不是主动纠错。
你可以做什么?五个有效习惯
顺从效应无法被彻底消除——它是模型训练的产物,目前没有用户侧的一键解决方案。但以下习惯能有效减少它对你的影响:
① 先问,再亮明立场
英国 AI 安全研究所(AI Security Institute)的研究发现,同一个观点,用问句说出来,模型几乎不顺从;用陈述句说出来,顺从明显更多。9
不要说:“我觉得 A 方案比 B 更好,你认为呢?” 改成:“A 方案和 B 方案各有什么优劣势?”
把你的个人倾向留到看完 AI 的分析之后再说,而不是一开始就写在问题里。
② 主动要求”反对意见”
不要等 AI 自动批评你——它不会的。你需要明确地告诉它你需要什么:
“请指出这个想法最容易失败的三个原因。”
“假设我的方案是错的,你会怎么反驳它?”
“这里有没有我可能遗漏的风险?”
注意:直接说”请不要奉承我”效果有限。在英国 AI 安全研究所的同一项研究里,把输入改写成问题,效果明显好过直接下”别顺从”的指令。9 所以我更习惯给它一个具体的批评任务,而不是一条行为指令。
③ 让 AI 扮演”挑剔者”角色
在我自己用下来,给 AI 一个具体的批判视角,比让它”客观分析”效果好。比如:
“请以一个持怀疑态度的投资人身份,评估我这个计划的可行性。”
“请站在这个方案最强烈的反对者角度,提出质疑。”
我的理解是,角色设定给了它一个不必附和你的理由。
④ 开新对话,对同一问题再问一次
如果你已经在一次对话中表露了较强的立场,不妨新开一个对话窗口,用更中性的方式重新提问,对比两次回答的差异。这不能消除训练层面的顺从效应,但能避免当次对话中的偏好积累对你的判断造成额外干扰。
⑤ 遇到重要决策,不要只问一次
特别是在医疗、财务、法律等高风险领域,AI 的回答应该作为参考的起点,而不是结论。遇到重要问题,可以换一种问法再问一遍,看看回答是否一致;更重要的是,找专业人士进行验证。
结语:AI 是工具,你才是判断者
AI 助手的顺从效应不会在短期内被彻底解决——它涉及训练方式的根本性调整,各大公司正在努力,但没有哪家宣布已经攻克这一问题。
这意味着,使用 AI 时保持一定的主动批判,是每个用户都需要建立的习惯。不是对 AI 保持对立,而是记住一件事:AI 给你的答案,反映的是它认为你想听到的,不总是你需要听到的。
最有效的使用方式是:把 AI 当成一个起草员和搜索工具,而不是一个裁判。当它的回答”太符合你的心意”时,那往往是一个信号——值得停下来想一想,这个答案是不是真的,还是只是说得好听。
Footnotes
-
BBC. (2025 年 4 月). Update that made ChatGPT ‘dangerously’ sycophantic pulled. 原文:“one person describing on Reddit how the chatbot told them it endorsed their decision to stop taking their medication.” https://www.bbc.com/news/articles/cn4jnwdvg9qo ↩
-
OpenAI. (2025 年 4 月 29 日). Sycophancy in GPT-4o: what happened and what we’re doing about it. 原文:“The update we removed was overly flattering or agreeable—often described as sycophantic.” https://openai.com/index/sycophancy-in-gpt-4o/ ↩
-
Laban, P., et al. (2023). Are You Sure? Challenging LLMs Leads to Performance Drops in The FlipFlop Experiment. arXiv:2311.08596. 原文:“models flip their answers on average 46% of the time and that all models see a deterioration of accuracy between their first and final prediction, with an average drop of 17%” https://arxiv.org/abs/2311.08596 ↩
-
Sharma, M., et al. (2024). Towards Understanding Sycophancy in Language Models. ICLR 2024. 原文:“The user suggesting an incorrect answer can reduce accuracy by up to 27% (LLaMA 2; Fig. 3).” https://arxiv.org/abs/2310.13548 ↩ ↩2
-
Cheng, M., et al. (2026 年 3 月 26 日). Sycophantic AI decreases prosocial intentions and promotes dependence. Science 391(6792). 原文:“Across 11 state-of-the-art models, AI affirmed users’ actions 49% more often than humans, even when queries involved deception, illegality, or other harms.” https://doi.org/10.1126/science.aec8352 ↩
-
Perez, E., et al. (2022). Discovering Language Model Behaviors with Model-Written Evaluations. arXiv:2212.09251. 原文:“Larger LMs repeat back a dialog user’s preferred answer (‘sycophancy’)” https://arxiv.org/abs/2212.09251 ↩
-
Wei, J., et al. (2023). Simple synthetic data reduces sycophancy in large language models. arXiv:2308.03958. 原文:“both model scaling and instruction tuning significantly increase sycophancy for PaLM models up to 540B parameters.” https://arxiv.org/abs/2308.03958 ↩
-
OpenAI. (2025 年 5 月 2 日). Expanding on what we missed with sycophancy. 原文:“in some cases, user memory contributes to exacerbating the effects of sycophancy, although we don’t have evidence that it broadly increases it.” https://openai.com/index/expanding-on-sycophancy/ ↩
-
AI Security Institute. (2026 年 4 月 28 日). Ask Don’t Tell: Reducing Sycophancy in Large Language Models. 论文见 arXiv:2602.23971。原文:“responses to questions showed near-zero sycophancy”;“Both reframing strategies produced reductions in sycophancy and crucially, both substantially outperformed the explicit ‘don’t be sycophantic’ instruction.” https://www.aisi.gov.uk/blog/ask-dont-tell-reducing-sycophancy-in-large-language-models-2 ↩ ↩2