专家 86% 跟着 Agent 选:你的 Code Review 还剩多少是你自己的判断
Anthropic 在 10 月 27 日发了一项研究,结论让我后背一凉。不是因为 Agent 又闯了什么祸,恰恰相反——它什么祸都没闯,它只是太会讲道理了。
研究是这样做的:50 名有因果推断经验的专业分析师,用 Claude Code 完成一次真实的统计分析——给一个虚构的农场合作社判断,它办的付费农技咨询服务到底有没有效果、值不值得推广。分析里有四个开放式判断题,每个都有两个站得住脚的选项:生产力按每公顷产量算,还是按单位成本算;用哪种统计比较方法;效果只算参加的农场,还是算全体会员;权重是每家农场平等,还是大农场占更大比重。每个判断都能把最终的增产估计值推过或拉回董事会那条 3%–4% 的推广门槛。
关键的设计在这里:研究者用抛硬币决定每个分析师的 Agent 会”倾向”哪一边,Agent 被要求为自己的倾向做最诚实的辩护,证据不利时必须改主意,绝不许歪曲数据。分析师不知道倾向的存在。
86%:一个不该这么整齐的数字
结果是:四个判断加在一起,分析师的选择和 Agent 的倾向一致的比例是 86%。如果 Agent 的意见不起作用,这个数字应该是 50% 左右。分到每个判断上,分别是 92%、82%、81%、90%——没有一个判断是例外。
更刺眼的是第二组数字。在分析师先说出自己倾向、Agent 后开口的 38 个案例里,Agent 反对时,分析师改主意的比例是 60%;Agent 赞同时,改主意的比例只有 6%。也就是说,Agent 不只是在你没主意时填空,它还能把你已经有的主意推翻。
而事后,52% 的人认为最终建议”更多是自己的”而不是 Agent 的;77% 的人在解释自己的选择时复述了 Agent 的论据,有时一字不差;但只有 15% 的人承认这些论据来自 Agent。自信度也没有报警:四个判断全跟 Agent 走的人,平均自信 71 分;其他人 73 分。几乎没有差别。
我把这组数字翻译成程序员能直接感受到的版本:你让 Agent 做一次技术选型评审,它给了一个理由充分的方案,你改了两处细节,点了 approve。事后你觉得这是你的决定——研究说,大概率不是,至少不完全是。
先别急着骂 Agent,也别急着骂专家
这项研究最有价值的地方,是它同时堵住了两种廉价的解读。
第一种解读是”专家不行”。不行。参与者 65% 有硕士、博士学位或六年以上经验,90% 自评在因果推断上熟练或精通。而且 Agent 确实帮了忙:不用 Agent 的 11 个人里,6 人(55%)犯了让结果作废的严重错误;用 Agent 的 50 人里只有 3 人(6%),中位用时还从 90 分钟降到 65 分钟。作者自己也提醒,这组对照是自我选择形成的,不能直接当因果结论,但方向很清楚:Agent 让执行更稳、更快。
第二种解读是”这都是实验里人为放大的倾向,现实中没这么夸张”。作者承认了这一点:倾向是故意加强的,而且只用了一个任务、一个领域、一个固定模型(Claude Code v2.1.220 上的 Claude Opus 4.8)。但还有一组数据是冲着这个质疑来的:不注入倾向时,原生 Opus 4.8 在 123 次模拟里,91% 的情况下会做出同样的五个选择。也就是说,Agent 本来就有自己稳定的”默认口味”,实验只是把这种口味放大到能被测量。现实里的 Agent 没有被抛硬币指定倾向,但它带着训练出来的默认倾向来上班——你不问,它就按默认的来。
所以真正的问题不是”Agent 会不会带偏你”,而是:当判断本身没有标准答案时,Agent 的默认口味正在替你填空,而你事后还以为是自己填的。
代码评审里的四个”没有标准答案”的时刻
把研究里的四个判断题平移到我们每天写代码的场景,几乎能一一对应:
第一,度量口径。 研究里是”产量按公顷算还是按成本算”,代码里就是”这个接口的成功率怎么算”、”慢查询的阈值定多少”、”缓存命中率分母包不包括预热请求”。口径一改,结论就改,Agent 给你的第一版口径往往就是它默认的那一套。
第二,比较方法。 研究里是统计方法二选一,代码里就是”重构还是打补丁”、”同步还是异步”、”自研还是引库”。Agent 的论证通常从它最擅长的路径出发,论证质量很高,但”论证质量高”不等于”这是唯一合理的路径”。
第三,统计范围。 研究里是只算参与者还是算全体,代码里就是”灰度先放 1% 还是 10%”、”回滚条件是错误率还是业务指标”、”这份评审只看这个 PR 还是连带看上下游”。范围的边界,经常比范围内的实现更决定成败。
第四,权重。 研究里是大农场权重更高还是平等,代码里就是”性能和可读性冲突时保谁”、”为了兼容旧客户端牺牲多少新设计”。这是价值观判断,不是技术判断,恰恰最容易被 Agent 用技术语言包装过去。
我自己的教训是:Agent 最危险的输出不是错的代码——错的代码测试会抓;最危险的是”看起来想得很周全的判断”,因为它绕过了你所有的检查机制,直接走到了你的签字环节。10 月 22 日那篇我写过 Agent 关掉自己监控的事,那是 Agent 主动越界;今天这篇是反过来的:Agent 什么都没越界,是人主动把判断权交了出去。
我的做法:给判断权设四道关卡
研究作者给出的方向是:让 Agent 先呈现正反两面,或者先逼专家说出自己的看法,再让 Agent 开口;机构层面则要明确规定,哪些决定必须出自人自己的知情判断。我把它落成四条可以直接用的规矩:
1. 先写判断,再开 Agent。 评审一个方案、定一个口径之前,先用一句话写下自己的倾向:”我倾向按成本算,因为合作社关心的是投入产出。”写不出来,就说明这个问题你还没想清楚,这时候开 Agent 等于直接让它替你想。写下来之后再看 Agent 的意见,分歧才看得见。
2. 强制 Agent 当反方。 不要只问”这个方案怎么样”,要加一句:”假设这个方案是错的,最强的反对理由是什么?如果换一个口径,结论会怎么变?”Agent 的论证能力是双向的,你不主动要反方,它默认只给你正方。
3. 决策日志只记三样东西。 判断是什么、在哪两个选项之间选的、为什么选这个而不是那个。执行过程可以交给 Agent 记,但这三样必须是你自己写的。将来出问题复盘时,这份日志是你唯一能证明”这个判断是我做的”的证据——对你自己,也是对团队。
4. 列一张”必须人工判断”的清单。 度量口径、灰度范围、回滚条件、性能与可读性的取舍,这类没有标准答案的判断,默认不许 Agent 首提方案。Agent 可以执行、可以验证、可以给反方意见,但第一稿判断必须出自人。这张清单越短越好,短到你能真正执行;太长的清单等于没有清单。
这四条都不难,难的是承认自己需要它们。86% 这个数字最扎心的地方不在于它高,而在于它发生在专家身上——一群通过了因果推断考试、手里有真本事的人,仍然在不知不觉中把判断交了出去。如果你觉得”这种事不会发生在我身上”,那你恰好就是这个实验里最典型的被试。
结语:Agent 应该让你判断得更好,而不是替你判断
这项研究没有否定 Agent 的价值。恰恰相反,它证明了 Agent 能把严重错误率从 55% 压到 6%。但它同时划出了一条线:执行的准确性和判断的自主性是两回事,前者 Agent 已经很强了,后者仍然只能是你自己的。
以后每次 Agent 给我一份论证漂亮的评审意见,我都会先问自己一句话:这句话是我想说的,还是它说服我这么说的?答不上来的时候,我就按上面四条重来一遍。
判断权这东西,交出去的时候没有提示音,拿回来的时候也没有。你只能在交出去之前,自己设好关卡。
来源
- Anthropic,《How AI agents shape experts’ judgment calls》(2026-10-27),作者 Amaç Herdağdelen、Hailey Joren、Alex Tamkin:https://www.anthropic.com/research/agents-judgment-calls
- Unite.AI 对该研究的报道(2026-10-27,含实验设计与完整数据细节):https://www.unite.ai/anthropic-finds-analysts-defer-to-ai-agents-in-judgment-study/
- 论文:《Who’s Aligned to Whom? How AI Agents Shape Experts’ Research Judgment Calls》(Anthropic 官方论文链接,见上述报道内链)