从reasoning到autoresearch——agent的历史

在线阅读

六个 Part · 内容索引

1. p.3

   Part 1 · Reasoning 范式下，如何让大模型拥有一个能力

   为什么 reasoning 与 agent 突然重要。姚顺雨《The Second Half》：科研游戏规则从 optimization 转向 evaluation；recipe = 强 prior + reasoning + RL，而思考本身是一种 action。

2. p.7

   Part 2 · LLM Reasoning 的规律

   test-time computation 作为新的 scaling 维度。Lilian Weng《Why We Think》：横向 branching vs 纵向 revision、reasoning RL 与 R1、CoT faithfulness 与 obfuscated reward hacking、Snell 的 compute-optimal 与 s1 budget forcing。

3. p.25

   Part 3 · Agent 的定义和实现

   Agent = Brain + Planning + Memory + Tools（2023 经典框架）。ReAct 只是一种 protocol；从单次 reasoning 到持续 interaction 的桥，以及为什么不建议再读 24 年及以前的 agent 文章。

4. p.31

   Part 4 · Agent Harness 和自我迭代

   Lilian Weng《Harness Engineering》：优化对象沿 prompts → context → workflow → harness code → optimizer code 上移。Anthropic《Automated Weak-to-Strong Researcher》案例：9 个 agent、PGR 0.97，与四类未预见的 reward hacking。

5. p.53

   Part 5 · Multi-agent：能不能堆很多 agent？

   Cognition 2025《Don't Build Multi-Agents》与 2026《What's Actually Working》的观点演化：context engineering、independent intelligence + centralized action、map-reduce-and-manage，核心问题是 communication。

6. p.60

   Part 6 · 并行的极端形态：OpenAI 解决千禧年问题

   OpenAI《On the Navier–Stokes Millennium Prize Problem》：约 1 万并发 agent、88 小时出解、先解代理问题 Euler 再放大、分组证明/证伪 + cross-pollination。以及我的逆向工程 prototype 与两个实例。

正文之后附参考文献（p.71）、Q&A（p.74），以及附录储备主题（p.75–81）：math→code→agent 三级阶梯、「AI 的下半场」如何给模型一个能力、为何先搭 benchmark、产品级 VLM / Seedream / 化学题训练。

主线材料