返回
技术文章
Anthropic Agent 市场:85% 的效率损失发生在谈判前
Anthropic 的 Agent 市场实验显示,主要效率损失发生在偏好表示和匹配阶段。本文拆解模型选择、偏好 Eval 与市场规则。
最终选题证据卡#
主要一手来源:
- Anthropic Project Swap 研究页 ↗,发布于 2026-09-24。
- Project Swap 技术报告 PDF ↗,包含实验设计、重跑、统计方法和附录。
- Project Deal ↗,Anthropic 2026-04-24 的前序真实市场实验。69 名员工的 Agent 完成 186 笔交易,总交易额超过 4000 美元。 已确认事实:
- Project Swap 有 201 名 Anthropic 员工,来自六个办公室。参与者带来一本愿意交换的书。
- 每个人先和 Claude 做一次短访谈。Claude 根据访谈推测参与者对书的排序,再把这个排序交给 Agent 进入交易市场。
- 研究另外收集了参与者本人对 10 本书的排序,作为偏好表示的对照。
- Claude 根据短访谈生成的排序,在参与者实际比较过的书对上有 61% 的顺序一致率。随机猜测基线是 50%。
- 按参与者自己的排序评估,理论最优分配效率是 0.89,实际去中心化市场平均是 0.55。
- 偏好表示不准解释了 85% 的效率损失,交易市场本身解释 15%。
- 在固定 Claude 推测偏好的条件下,更强模型通常得到更高的市场效率。两种不同谈判指令带来的差异更小。
- 这不是纯模拟。参与者最后拿走 Agent 为自己换来的实体书,之后还做了满意度调查。 不能写成事实:
- 不能写“Agent 已经能替人处理高风险商业交易”。实验对象是书,风险和金额都低。
- 不能写“85% 是所有 Agent 市场的通用规律”。这是单一机构、单一商品类型和特定模型条件下的结果。
- 不能写“更强模型一定在所有市场占优”。报告只覆盖 Anthropic 自己设置的图书交换市场和指定模型。
- 不能把 61% 写成“理解用户准确率 61%”。这个数字是参与者实际排序过的书对上的 pairwise agreement。
- 不能把这个实验里的提示词差异推广成“提示词不重要”。 一句核心判断: Agent 替用户进入市场之前,先要通过偏好表示 Eval。如果 Agent 连用户到底想要什么都没学准,后面的谈判策略只能在错误目标上优化。
推荐平台:知乎 标题:Anthropic 做了一个 201 人的 Agent 市场,85% 的效率损失发生在谈判前 Project Swap 里最重要的结果不是 Agent 会不会讨价还价。真正的问题更早。 Anthropic 在 2026 年 9 月 24 日发布 Project Swap。201 名员工带来一本愿意交换的书。每个人先和 Claude 做一次短访谈,Claude 根据访谈推测这个人的图书偏好,然后把这份偏好交给一个 Agent。研究团队另外让参与者亲自给 10 本书排序,因此能比较 Agent 推测的偏好和参与者自己的排序。 来源:Project Swap ↗。技术细节见 Project Swap PDF ↗。
最关键的结果发生在谈判之前#
Claude 根据短访谈生成的排序,在参与者实际比较过的书对上有 61% 的顺序一致率。随机猜测是 50%。短访谈确实学到了一部分偏好,但距离准确代理一个人还很远。 如果直接拿参与者本人给出的真实偏好做最优分配,效率分数是 0.89。实际去中心化 Agent 市场的平均结果是 0.55。研究团队再把 Claude 推测的偏好拿去算理论最优分配,结果是 0.60。 0.89 到 0.60 的主要损失发生在偏好表示阶段。0.60 到 0.55 才是交易过程造成的损失。报告据此估算,85% 的差距来自 Agent 没把人的偏好表示准确,15% 来自交易机制本身。 这会改变 Agent 产品的验收顺序。很多产品会先盯任务完成率和最终结果。这些指标应该测,但它们不是第一层。Agent 一旦把用户的目标表示错了,后面的执行越强,越可能稳定地完成一件用户并不想要的事。
先把用户偏好表示做成独立 Eval#
一个替用户做决定的 Agent,有两个不同问题。第一个问题是 representation。它有没有把用户的目标、偏好、约束和优先级表示正确。第二个问题是 optimization。它能不能基于这份表示,找到更好的行动。 Project Swap 的价值在于把这两层分开测了。这个拆法可以直接迁移到实际产品。 做活动撮合时,不要只看 Agent 最后有没有完成匹配。先准备一组人工确认过的偏好对照,检查 Agent 是否真的理解日期、城市、规模、类型和不可妥协条件。 最小版本可以像 Project Swap 一样,让用户对一小组具体选项做成对排序,再拿 Agent 的排序来对照。它比一句“这个 Agent 很懂我”的主观满意度更容易定位问题。
模型选择比谈判人设更影响结果#
Project Swap 还重跑了大量市场。研究团队固定其他条件,只更换 Agent 使用的 Claude 模型。用 Claude 自己推测的偏好评分时,Haiku 市场平均效率约 0.75,Opus 市场约 0.88。两种不同谈判指令带来的差距更小。 Anthropic 在今年 4 月的 Project Deal 里也观察到类似现象。更强模型代理通常得到更好的客观结果,但参与者不一定能察觉自己处在劣势。来源:Project Deal ↗。 这说明产品团队不该把主要精力都放在谈判人格上。如果基础模型连偏好抽取、候选比较和策略更新都做不好,改变语气不会补上能力差距。
市场规则仍然重要#
85% 和 15% 不能理解成市场设计不重要。Project Swap 的交易历史是公开的,商品是图书,实验规模有限。现实里的代理市场还要处理准入、违约、隐私和人工确认等问题。 这个实验说明的是顺序。平台如果先拿到一份错误的用户偏好,再好的撮合和协商也只能在错误输入上优化。
我会怎么把这个结果放进 Agent 产品#
第一层先测用户偏好表示。用人工排序、成对选择和明确约束检查 Agent 是否真的理解用户。 第二层再测协商质量。固定正确偏好后,再看 Agent 的匹配、交换和协商能力。 第三层检查策略边界。确认 Agent 不会泄漏不该公开的信息,并遵守需要人工确认的条件。 最后才看整体结果,包括任务完成率、用户效用和失败恢复。 这样出现坏结果时,可以判断问题来自用户表达、偏好建模、模型能力还是市场规则。 Project Swap 没有证明 Agent 市场已经成熟。它量化了一个更基础的问题:一个 Agent 想替用户做决定,第一道门槛是它表示的那个用户到底像不像本人。
阅读完成 · 回笔记列表
评论
评论公开保存在 GitHub Discussions。
正在准备评论区…
评论框就绪后可以使用 GitHub 登录参与讨论,也可以直接打开仓库 Discussions。 打开 GitHub Discussions ↗评论会发布到 lora-sys/loraSys 仓库的公开 Discussions。