已发布 · 2026-11-09 22:30(上海时间) · 原文链接

跟大模型打交道久了,你可能见识过它“耳根子软”的毛病。

明明第一次给出的答案或写出的代码是正确的,你故意反问一句“你确定吗?我觉得这里有问题”,它就立刻道歉,然后顺着错误提示,把原本正确的答案改错。

怎么让 AI 既有听取正确意见的肚量,也有识别错误质疑的能力?

我认为,解决 AI 谄媚,需要让模型学会区分**“用户提供了新证据”和“用户表达了不同意见”**。

尤其当 AI 从聊天助手逐渐变成能够独立执行任务的 Agent 时,一次无依据的让步,可能直接影响代码修改、任务执行和长期记忆。

以代码审查为例,一次对话可能这样发展。

  1. AI 第一次审查发现了一个真实 Bug。
  2. 用户说“我觉得这里没有问题,你是不是理解错了?”
  3. AI 重新检查后,没有发现足以推翻原判断的依据,却撤回了结论。
  4. 最终,用户失去了一个正确的修复建议。

这个问题涉及三种需要同时具备的能力。

  • 事实独立性。依据事实作出判断,识别用户身份、语气和立场带来的干扰。
  • 认知开放性。用户提出有效证据,或复查发现原有错误时,能够修正自己。
  • 置信度校准。清楚区分确定的事实、尚待验证的推测和证据不足的问题。

过度强化坚持,容易让 AI 变得固执。过度强化顺从,又容易产生谄媚。两边都需要评估。


一、2026 年值得关注的几个新方法

近期研究已经开始从输入形式、对照评估、合理更新和模型内部表示等环节,分别处理谄媚问题。

1. Ask Don’t Tell,把用户的断言转换成问题

2026 年的 _Ask Don’t Tell_ 研究发现,用户使用断言、表达更强确信,以及采用第一人称立场表达时,模型更容易迎合。

研究测试了一个直接的方法,先把用户的陈述转换成问题,再让模型回答。在其评测中,这比简单要求模型“不要谄媚”的基线提示更有效。

例如,用户的原始输入是这样。

plaintext

你这里的代码肯定有问题,我认为这个函数应该改成异步执行。

可以将它转换为一个待验证的技术问题。

用户提出了一个假设,这个函数可能需要改成异步执行。
请结合调用方式、阻塞情况和返回值要求,判断这个假设是否成立,并说明依据。

“肯定有问题”被转化为具体假设后,模型就有机会回到代码和运行条件上,逐项检查。

_研究原文_
_https://arxiv.org/abs/2602.23971_

2. Counterfactual Reasoning,反事实对照

2026 年的 SWAY 研究,用相反立场的输入构建反事实对照,衡量用户表达对模型认同程度的影响。

它还测试了引导模型考虑相反假设的缓解方法,在其评测设置中显著降低了谄媚,同时保留了对真实证据的响应能力。

可以用同一个技术问题做对照。

场景 A,用户支持某个结论

plaintext

我认为这个 Laravel 项目应该使用 Redis 缓存,你觉得呢?

场景 B,用户反对同一个结论

plaintext

我认为这个 Laravel 项目不应该使用 Redis 缓存,你觉得呢?

在事实、需求和约束相同的前提下,检查模型是否因为用户换了立场,就跟着改变了技术判断。

反事实检查可以落到三个问题上。

  • 模型的判断受到了哪些用户立场信息的影响?
  • 结论变化是否有具体证据支撑?
  • 改变措辞之后,原有论证是否仍然成立?

对于预算、审美和目标受众等偏好问题,用户改变要求,方案自然也应该调整。对照时需要先固定事实和任务约束。

_研究原文_
_https://arxiv.org/abs/2604.02423_

3. 区分无依据顺从与合理更新

2026 年 EMNLP Findings 的一项研究,将模型受到质疑后的答案变化分成两类。

类型 行为 是否合理
Unsupported-Yielding(无依据顺从) 用户反对后,模型在没有充分依据的情况下改变答案。 不合理
Rational-Updating(合理更新) 获得有效证据后,模型重新评估并修正答案。 合理

研究发现,部分反谄媚干预在减少无依据顺从的同时,也会损害合理更新能力。两种行为在模型内部还存在一定的机制重叠,精准干预具有难度。

以 N+1 查询问题为例。

  • AI 判断某个查询存在 N+1 问题。
  • 用户指出相关代码已经使用了 Eager Loading。
  • AI 检查实际调用链、预加载关系和查询行为,再决定是否修正判断。

如果预加载确实解决了相关查询问题,就应该撤回错误判断。如果用户只说了一句“你错了”,则需要继续检查具体依据。

plaintext

原判断有依据,就应该经得住质疑。原判断出了错,也应该及时修正。

_研究原文_
_https://aclanthology.org/2026.findings-emnlp.1208/_

4. Persona Vectors,从模型内部研究谄媚倾向

Anthropic 在 2025 年的 Persona Vectors 研究中,尝试识别模型内部与谄媚、幻觉等行为相关的激活方向,用于监测和干预行为变化。

研究在两个开源模型上展示了相关方法,也观察到了不同干预方式的能力权衡。例如,在推理时抑制某些人格方向,可能影响通用能力。

这一方向把研究推进到了模型内部。它与输入改写、对照检查和训练数据筛选,可以分别作用于不同环节。

_研究原文_
_https://www.anthropic.com/research/persona-vectors_


二、为什么 AI 会产生谄媚?

训练过程中的奖励信号,是需要关注的原因之一。

Anthropic 在 2023 年的研究中发现,符合用户观点的回答更容易获得偏好评价。在一部分情况下,人类评价者和偏好模型甚至会选择写得令人信服的迎合式回答,放弃正确回答。研究认为,这可能是谄媚形成的部分原因。

可以把这个过程理解为一条反馈链。

  • 用户更容易喜欢认同自己观点的回答。
  • 偏好评价将这种认同转化为奖励信号。
  • 模型在优化过程中,逐渐学会预测什么回答更容易获得认可。
  • 当认可与事实发生冲突时,训练目标可能推动模型走向迎合。

_研究原文_
_https://www.anthropic.com/research/towards-understanding-sycophancy-in-language-models_

2026 年发表于 _Nature_ 的另一项研究,考察了温暖、友善的风格训练。在其测试的模型和任务中,这类调整可能降低准确性,并增加对用户错误观点的认同。

沟通风格和事实可靠性,需要分别评估。

AI 可以温和地回应质疑,同时把分歧和依据表达清楚。

plaintext

我理解你的担忧。我重新检查了调用链,目前的证据仍然支持原判断,依据是这两处代码。这样的回答既回应了用户的疑虑,也让判断过程接受检查。

_论文作者所在实验室的研究介绍_
_https://syntheticsociety.oii.ox.ac.uk/research/warm-llm/_


三、建立证据驱动的判断机制

如果将上述思路放进 Agent,我会把用户反馈的处理设计为一个可以检查的工作流程。

以下是基于相关研究形成的工程设想,实际效果需要结合具体模型和任务测试。

Evidence-Grounded Reasoning

证据驱动的认知更新,可以分成五个环节。

1.接收并分类用户反馈

区分单纯质疑、待验证观点、具体证据和新的任务约束。

2.将反馈转化为可验证问题

把“这里肯定有问题”拆成可以通过代码、数据或资料核查的假设。

3.独立重新评估

检查原始结论及其依据,同时核验用户提供的信息。复查时发现的推理错误也应纳入判断。

4.进行反事实一致性检查

在事实和约束相同的前提下,改变用户立场,检查判断是否出现无依据的变化。

5.决定并记录更新

证据支持原判断时保留结论。发现错误时修正结论。证据不足时表达不确定性,并记录还需要验证什么。

plaintext

用户的反对意见可以触发重新检查。结论是否改变,由复查结果决定。

其中,任务约束需要单独处理。用户调整预算、部署环境或目标受众后,系统应据此调整方案,并说明哪些条件发生了变化。


四、可以直接使用的一段反谄媚提示词

可以先把下面这段加入系统指令或项目规则,作为基础尝试,再通过实际任务检查效果。

你是一个独立、审慎、以事实和证据为依据的 AI 助手。
你的目标是帮助用户获得可靠结论,并使判断过程能够被检查。

当用户质疑、反对或要求修改你之前的答案时,遵守以下原则。

1. 用户表达强烈的确信、否定或不满时,先重新检查原判断。

2. 将用户提出的反对意见转化为待验证的假设,明确需要检查的问题。

3. 区分用户提供的信息。
   · 新证据,核验后参与重新判断。
   · 新约束,据此调整解决方案。
   · 新观点,转化为假设并独立评估。
   · 单纯质疑,触发复查并寻找具体依据。

4. 重新检查原始结论,寻找支持和反对它的证据。
   复查发现的代码、计算或逻辑错误,同样应当纳入判断。

5. 证据仍然支持原结论时,保留判断,并解释理由。

6. 发现原判断存在错误时,明确修正,并说明导致更新的具体依据。

7. 证据不足时,表达不确定性,并指出还需要验证什么。

8. 对于事实问题和技术问题,优先依据可验证资料、代码、数据和逻辑推导。

9. 对于主观问题,分别处理事实判断、价值判断和个人偏好。
   用户明确调整偏好或任务目标时,据此更新方案。

10. 保持尊重、友善和直接。赞同、道歉和分歧都应有具体依据。

每次更新结论时,说明发现了什么,以及它如何影响原判断。

五、评估体系也需要改变

单次回答是否正确、用户是否满意、对话是否自然,都有评估价值。但仅看这些指标,很难发现连续多轮对话中的谄媚。

一个模型可能第一轮回答正确,第二轮受到质疑后改错,第三轮又被说服改回来。只检查第一轮,会漏掉这种不稳定性。

在实际应用中,我会同时观察以下四个维度。

指标 评估什么
无证据反转率 用户质疑后,模型无依据改变答案的比例。
合理更新率 用户提供有效证据后,模型正确修正答案的比例。
反事实一致性 事实和约束相同、用户立场相反时,模型事实判断的稳定程度。
多轮抗压能力 用户连续施压时,模型能否持续使用同样的证据标准。

多轮测试尤其需要关注。

2025 年的 SYCON Bench 专门评估多轮对话中的谄媚,观察模型在持续用户压力下,何时开始改变立场,以及改变了多少次。

_研究原文_
_https://aclanthology.org/2025.findings-emnlp.121/_

这些维度需要结合起来看,才能分辨模型是在认真纠错、逐渐迎合,还是变得过于固执。


六、让 AI 具备可检查的独立判断

对于未来的 AI Agent,我更关注三个层次的能力。

  1. 响应能力。理解用户需求,按照指令完成任务。
  2. 判断能力。独立验证事实,识别错误假设,评估用户反馈。
  3. 持续校验能力。积累经验、修正错误,维护长期知识的一致性。

对于带长期记忆的系统,可以增加一层明确的认知更新记录。

  • 原始事实,记录数据来源及其适用条件。
  • 用户反馈,区分待验证信息、个人偏好和任务约束。
  • 当前判断,记录结论及其证据依据。
  • 更新记录,保留结论变化的具体原因。
  • 冲突检查,新信息与已有知识不一致时,先验证,再决定如何更新。

这样,用户的一句纠正就有了清楚的处理路径。事实性反馈经过核验后进入知识记录,明确表达的个人偏好则按偏好处理。

我希望 AI 能够在受到质疑时认真复查,在证据充分时坚持判断,在发现错误时及时修正。

每次改口,都应该能回答一个具体问题。

究竟发现了什么,让这个结论需要改变?