当 AI 开始自己造自己：Anthropic 递归自我改进全文翻译
Anthropic Institute 长文全文翻译：从每位工程师代码产出的陡增，到模型挑选「下一步」胜过人类——递归自我改进已经在发生。人类的角色如何一步步退后、Anthropic 内部的证据、几种可能的未来，以及：如果我们错了呢？
Anthropic 刚发了一篇文章，标题就够吓人：《When AI builds itself》（当 AI 开始自己造自己）。
里面甩出一个数字：今天 Anthropic 的工程师，平均每季度交付的代码量，是 2021 到 2025 年的 8 倍。
不是因为他们更拼了，是因为合并进代码库的代码里，已经有超过 80% 是 Claude 写的。
这是 Anthropic Institute 第一次用大量从未公开过的内部数据，论证一件正在发生的事：AI 已经在加速 AI 自己的研发。下面是全文翻译，数据和图表都按原文保留。
副标题：我们在递归自我改进上的进展，以及它的含义。
在 AI 历史的大部分时间里，开发循环的每一步都由人类推动。但在 Anthropic，我们正把越来越多的 AI 研发工作交给 AI 系统自己来做，这在加速我们的工作。
把这个趋势推到极致，再给足算力，它指向的是一个能够完全自主地设计和开发自己继任者的 AI 系统。这就叫「递归自我改进」（recursive self-improvement）。我们还没到那一步，递归自我改进也并非不可避免。但它到来的时间，可能比大多数机构准备好的时间要早。
借助公开基准测试，以及来自 Anthropic 内部、此前从未披露过的数据，The Anthropic Institute 正在表明：AI 已经在加速 AI 系统的开发。举一个例子：今天，Anthropic 的工程师平均每季度交付的代码量，是他们在 2021 到 2025 年时的 8 倍。
本文讨论的这些技术趋势意味着，未来几年 AI 系统会变得强大得多。这些趋势影响巨大。能自我构建的 AI，将是技术史上的一次重大进展，它可能为世界带来巨大的好处，在科学、医疗及更多领域。但完全的递归自我改进也可能增加人类失去对 AI 系统控制权的风险。如果系统有能力完全构建出自己的继任者，那么我们如何保护它们、监控它们、塑造它们的行为，全都会变得重要得多。
一条时间线：人类的角色如何一步步退后
2021 到 2023 年｜造出第一个 Claude 早期，Anthropic 的工作和任何其他科技公司没两样：人们在笔记本电脑上写代码、写文档。
2023 到 2025 年｜聊天机器人 人们用早期的聊天机器人来辅助流程中的某些环节，比如生成短代码片段，再把输出复制到文本编辑器里。
2025 到 2026 年｜编码智能体 随着智能体能力变强，它们能自己写代码、改代码，有时候是整个文件。
今天｜自主智能体 智能体现在能自己运行代码，并把数小时的工作委派给其他智能体。
20XX？｜闭环 未来，智能体可能强大到能自己构建和训练模型。如果这发生了，未来版本的 Claude 就可能由 Claude 自己持续改进。
来自外部世界的证据
AI 模型变强的速度正在加快。它们能可靠地独立完成的任务的时长，大约每四个月翻一倍，而早先的趋势是每七个月翻一倍。2024 年 3 月，Claude Opus 3 能完成人类大约需要四分钟的软件任务。一年后，Claude Sonnet 3.7 能搞定大约一个半小时的任务。再过一年，Claude Opus 4.6 能搞定 12 小时的任务。1 如果这个趋势保持下去，一个熟练的人需要数天才能完成的任务，今年就可能进入 AI 的能力范围。到 2027 年，AI 系统可能有能力完成一个人需要数周才能完成的任务。
同样的模式也出现在编码和研究的基准测试上。基准测试衡量模型在某个领域的表现，当模型的表现接近 100% 时，就说它「饱和」了这个基准。2 SWE-bench 是衡量真实世界软件工程的标准测试：它给模型一个真实的开源代码库和一份真实的 bug 报告，要求它写出能修复问题并通过项目自身测试的代码改动。模型在两年内从只得个位数低分，做到了饱和这个基准。
CORE-Bench 测试模型能否复现已有研究，这是它们开展原创研究的前提。它给 AI 模型一篇已发表论文背后的代码和数据，要求它重新跑一遍，确认能复现论文的结果。AI 系统从 2024 年大约 20% 的复现成功率，到十五个月后饱和了这个基准。运行长时任务衡量基准的 METR 发现，Claude Mythos Preview 能工作「至少」16 小时，已经处在「METR 在不引入新任务的情况下所能测量的上限」。
公开基准测试能说明这些系统的能力有多强。但它们无法揭示 AI 系统对加速 AI 研发本身的影响。要看清这一点，我们需要来自 Anthropic 这类 AI 公司内部的直接证据。
来自 Anthropic 内部的证据
构建一个前沿模型，需要两大类工作。一类是工程：写代码、搭建基础设施、监督模型训练。另一类是研究：决定做哪些实验、解读返回的结果、想清楚接下来该试哪些点子。
在工程和研究两边，画面是一致的。在工程上，你可以把一个没有完全定义清楚的问题丢给 Claude，它能想出怎么解决；人类提供目标，但不再需要提供方法。在研究上，Claude 在执行一个定义清晰的实验时，已经能比肩甚至超过熟练的人类。然而，当涉及 Claude 自己在工程和研究中运用判断力去选择目标时，巨大的能力差距依然存在。这就是今天的 AI，和一个未来能自主设计自己继任者的系统之间的差距。
Anthropic 的员工随着经验增长，会接到越来越开放、越来越重要的任务，这很常见。一开始，他们执行别人定义好的任务，比如「导出按钮坏了，请修一下」。有经验之后，他们拿到的是一个目标，自己设计方法，比如「调查为什么网络在高负载下会变慢」。到了最资深的层级，他们要决定哪些问题根本值不值得做：「团队下个季度该构建什么？」我们可以用 Anthropic 的内部数据，来看 Claude 在处理这几类不同任务上，已经走到了哪一步。
Claude 写了 Anthropic 相当大比例的代码。 截至 2026 年 5 月，我们合并进 Anthropic 代码库的代码里，有超过 80% 是 Claude 撰写的。3 在 Claude Code 于 2025 年 2 月以研究预览形式发布之前，这个数字还在个位数低位。这种转变也体现在每个工程师的产出量上。每个工程师每天合并的代码行数，在 Anthropic 头四年（2021 到 2024 年）保持稳定，然后在 2025 年开始往上爬，当时 Claude 开始自己运行代码，而不只是给出建议让工程师复制粘贴。到 2026 年，随着模型开始在更长的时间跨度上自主工作，斜率又陡了一次。下图标出了这两个拐点。在 2026 年第二季度，一个典型工程师每天合并的代码量，是他们在 2024 年时的 8 倍。4 这是因为大部分代码由 Claude 撰写，工程师负责指挥和审查，而不是自己敲。
一点提醒：代码行数是个不完美的度量，它衡量的是数量而非质量。所以 2026 年第二季度的「代码行数/工程师/天 增长 8 倍」，几乎肯定高估了真实的生产力提升。尽管如此，它确实表明了一种加速。在 Anthropic，我们不会因为谁写的代码行数多就奖励谁；团队成员产出更多代码，仅仅是因为他们在用 AI 系统写更多代码。
代码行数的增加，和员工对生产力大幅提升的主观感受是吻合的。在 2026 年 3 月一项覆盖 Anthropic 各研究团队 130 名员工的调查中，受访者的中位数估计：在那些他们本来也会做的项目上，用 Mythos Preview 产出的成果，大约是完全没有任何 AI 模型时的 4 倍。5 我们预计 3 月份真实的提升幅度要略低一些。6 但尽管如此，我们认为这个总体判断是可信的，也和我们的其他观察一致：Anthropic 相当大一部分技术人员，正在以没有 AI 辅助时数倍的速度完成他们的核心工作。
我们还看到证据表明，Anthropic 的人正在用 Claude 做一些本来根本不会发生的工作，比如构建探索性的工具、处理长期被搁置的清理工作。比如 2026 年 4 月，Claude 交付了 800 多个修复，把某一类 API 错误减少到了原来的千分之一。监督这项工作的工程师估计，人类要完成这件事需要四年；解别人的 bug 既慢又费劲，人脑很难同时装下那么多陌生的上下文。
「我大约一年前开始全力『Claude 化』。那是一场疯狂的冒险，到现在我已经大约五个月没有亲手写过任何代码了。」 （一位 Anthropic 员工7）
Claude 写的代码是「好」的，而且在变好。 「好代码」意味着两件事：它能跑，并且写得让另一个工程师能看懂、能在上面继续构建。在第一个标准上，证据很清楚。Anthropic 员工在任务中途纠正、重新引导、或接管 Claude 的比率，已经稳步下降了一年，包括在最复杂、最开放的任务上。这指的是那些没有明确规格的问题，工程师自己都不确定答案长什么样。这一点体现在 Claude 在不同难度任务上随时间变化的成功率上，如下图所示。Claude 写的代码能跑。
怎么看这张图： 会话是否成功由一个 Claude 裁判判定；如果 Claude Code 智能体明显完成了用户的任务且无需纠正，该会话就被判为成功。工作负载的变化可能导致成功率出现短期波动。
在最开放的任务上，Claude 的成功率在 2026 年 5 月达到了 76%，半年内上升了 50 个百分点。举一个这个难度档位里的任务例子：一次例行升级开始让数万个训练任务崩溃。一个工程师把 Claude 指向了这个正在发生的事故，只给了它一点文字说明和集群访问权限。Claude 一边处理运行中的任务，一边一次测试一个环境设置，定位到了那个触发崩溃的、晦涩的单个调试标志，稳定地复现了它，并确认了一个修复方案。大约两小时，Claude 交付了通常需要两到三天的工作。
第二个标准，是写出另一个工程师能看懂、能在上面继续构建的代码。在这一点上，人类和 AI 之间的差距依然存在，但正在快速缩小。Anthropic 内部还没有完全的共识，但许多人认为，在 2025 年底，Claude 写的代码质量仍然比 Anthropic 人类写的代码差，而今天大致打平。我们预计一年之内它会更好。
这已经改变了 Anthropic 审查自己代码的方式。对我们代码库的改动提案，现在在合并前会先由一个自动化的 Claude 审查员读一遍，它会找 bug、安全漏洞和其他缺陷。用这个工具，我们做了一次回溯分析，发现：如果对我们代码库的每一次改动都做一遍自动化的 Claude 审查，那么过去 claude.ai 上各次事故背后的 bug，大约有三分之一会在抵达生产环境之前就被抓出来。写下那些代码的工程师，是世界上最擅长构建这类系统的人之一。而 Claude 现在正在抓出他们漏掉的错误。
「在 2025 年底，Claude 写的代码比 Anthropic 人类写的代码稍差一些，今天大致打平，而我们预计一年之内它会严格地更好。」
Claude 擅长为了别人设定的目标去跑实验。 每次 Anthropic 发布模型，我们都会跑同一个测试：给 Claude 一段训练小型 AI 模型的代码，要求它在仍然通过同样的正确性检查的前提下，让这段代码跑得尽可能快。目标和成功指标都是预先固定的，所以 Claude 的工作就是通过重写代码、运行、计时、再重复，来找到提速空间。这是一个实验研究循环的微缩版。2025 年 5 月，Claude Opus 4 相对初始代码平均提速约 3 倍。到 2026 年 4 月，Claude Mythos Preview 做到了约 52 倍。作为参照，一个熟练的人类研究员需要四到八小时才能达到 4 倍。8 在研究工作流的这一环，也就是在一个定义清晰的实验内部优化步骤上，Claude 在不到一年里，从「非常有帮助」变成了「超越人类」。
「今天事情的形态大致是『人类有点子，模型能以比以前快一个数量级的速度去实现、测试和评估它们』。」
Claude 在提出自己的实验上越来越强。 2026 年 4 月，Anthropic 发表了第一个 Claude 端到端运行一个开放式研究项目的演示。由 Claude 驱动的智能体被交给一个 AI 安全领域的开放问题，大致是：一个较弱的模型能否可靠地监督一个更强的模型？然后任由它们去解决。这涉及提出假设、测试假设、与并行的智能体分享发现、并不断迭代。这个任务有清晰的性能「下限」和「上限」：下限是弱监督者自己能做到多好；上限是强模型在用正确答案训练后能做到多好。两位人类研究员花了大约一周，恢复了大约 23% 的差距；而智能体在累计 800 小时里恢复了 97%，用掉了大约 18,000 美元的算力。这项工作有一些注意事项：结果没能干净地迁移到生产规模的模型上，而且问题仍然是人类选的、评分标准也是人类定的。但在这些边界之内，每一个实验都是智能体自己设计的。设定方向是人类扮演的唯一有实质意义的角色。
「Claude 在 1 到 2 天里几乎没怎么靠我帮忙，就做完了这一切。我想，如果一个初级同事在同样的时间里拿着这样的结果来找我，我会有点小小的惊艳。未来已来。」
Claude 在把研究会话导向研究发现这件事上越来越强。 我们检视了真实的 Claude Code 会话（2026 年 1 月到 3 月之间），那是 Anthropic 研究员在和 Claude 一起攻关一个开放式调查问题，比如搞清楚一次训练为什么总崩溃，或者一个模型为什么在某个基准上分数很差。在每个案例里，我们都找到了一个研究员绕了弯路的时刻：他们追了一个方向，把会话带偏了，后来才回到正轨。然后我们只把会话走偏之前的工作展示给各个 Claude 模型，问它们接下来会怎么做。另一个能看到这个会话最终如何收场的独立 Claude，再来判断是 AI 还是人类提出了更好的下一步。9
因为我们是刻意挑选了那些我们已知人类的选择有改进空间的时刻（n=129），所以这并不是模型和人类判断力之间的同等对比。这些时刻给我们的，是一组真实而有挑战的情境，在这些情境里正确的下一步并不显然，而人类的选择充当了一个有用的标尺，用来对比模型表现随时间的变化。在这个度量上，我们 2025 年 11 月最好的模型（Opus 4.5）有 51% 的时候胜过人类的选择；到 2026 年 4 月（Mythos Preview），这个比例涨到了 64%。研究的日常工作，很大程度上就是一连串这样的「下一步」决策，这让它成为衡量模型最终能否自己运行一项调查的一个相关指标。我们把这个结果看作一个早期信号：AI 系统在做出 AI 研究所依赖的那类判断上，正在变强。
怎么看这张图： 「实际上限」那条线，衡量的是一个能看到整个会话（包括它如何收场）的模型写出的「理想」答案。
「就现在而言，人类的比较优势仍然在于看到更大的图景，以及超越眼前任务局限去思考。」
Anthropic 未来的工作会是什么样？
证据表明，在 AI 开发流程的每一步，人类的角色都在收窄。一旦人类写的代码和 AI 写的代码质量打平，人类就会彻底停止写代码，转向只做审查。但如果他们审查代码的速度赶不上 Claude 生成代码的速度，人类审查就会变成 AI 开发的瓶颈。同样，一旦 Claude 能跑实验，问题就转向了「这些实验里，哪个值得跑？」简单说：「做」这件事（写代码、跑实验、产出结果）现在几乎不耗费人类时间了，尽管它仍然有算力上的成本。
就目前而言，人类的一个比较优势在于研究品味和判断力，包括选择哪些问题重要、哪些结果可信、以及一个方法什么时候已经是死胡同。
「工作（和生活）运转在人与人之间小恩小惠的『人情经济』上。『你能帮我把这个脚本跑起来吗？』……每一次都制造了一点亏欠，一点彼此的在意。Claude 更快，它不制造任何亏欠，但每一次这样的请求，都是一次落空的、本可走向人类协作的邀约。」
「在一切顺利的日子里，我会忍不住想，我做的事毫无意义，所有东西都被自动化了，比我永远能做到的更好、更快。但也有那样的日子，一切都崩了，我也不明白为什么，我意识到我已经完全不知道自己一直在忙什么了。」
如果我们错了呢？
针对上述证据，一个很自然的反驳是：仍然握在人类手里的那部分工作，也就是选择做哪些问题，才是最重要的。没有那份判断力，Claude 是个能干的助手，但不是一个能靠自己推动 AI 进步的系统。
今天的训练方法和架构能否解锁那种能力，确实尚不清楚。但 AI 很少是靠「尤里卡！」的灵光一现推进的。AI 近期历史上确实有过几次这样的时刻，比如 Transformer 架构，或者专家混合（mixture-of-experts）模型，但范式级的点子相隔数年才出现一次。在这之间，大多数进步是渐进的：我们把某个东西放大，看看哪里坏了，修好它，再试一次。而这恰恰是 Claude 如今擅长的那类工作流。爱迪生说，天才是 1% 的灵感加 99% 的汗水。但我们看到，汗水正在越来越多地被自动化。越来越清楚的是，推动前沿的大部分工作是可以自动化的；大规模的研究进展，很大程度上是工具和资源的函数，是它们决定了你跑实验有多快、一次能跑多少、以及多快能拿到结果。
即便我们假设 Claude 永远练不出好的研究品味，对我们证据的一个保守解读，也仍然意味着复利式的加速。如果人类把大部分时间花在那一小撮（个位数比例）属于设定方向的工作上，而 Claude 处理其余的一切，那就意味着每个工程师或研究员都在驾驭比以前多得多的工作量。我们看到的证据表明，Anthropic 的人既跑得更快，又覆盖了更广的面。实际上，这意味着 AI 已经让 Anthropic 比在有效 AI 工具出现之前快得多。
不那么保守的解读是：关于 Claude 研究判断力提升的早期证据（尽管今天还很窄），是一个信号，表明这项能力也在变强。「研究品味」可能只是又一项 AI 系统先做不好、然后变得擅长的能力而已。我们在其他定性技能上见过类似的模式，比如 AI 系统能够解释一个笑话为什么好笑、展现心智理论、解开语言谜题。
几种可能的未来
接下来会发生什么，取决于两件事：趋势是否延续，以及如果它延续，我们选择怎么做。我们至少能想象三种未来情景。
-
趋势停滞，但今天的 AI 能力被广泛扩散。 本文呈现了许多指数式的轨迹。但这些轨迹最后可能其实是 S 型曲线。我们也许正在接近曲线的拐弯处，在那里规模化的回报递减，线条先变直，然后变平。区分一个称职研究员和一个伟大研究员的那种判断力，可能是一项无法靠扩大算力、数据这类训练投入而获得的能力。如果是这样，越过这个瓶颈就需要一个新点子，比如一种取代当前所有前沿模型都在用的 Transformer 架构的新架构思路。
或者，AI 进步的约束可能在供应链上，而不在模型上：推进并扩散前沿，可能需要比现在存在的更多的能源和算力。芯片制造、电网扩张、或互连带宽的速度，可能才是约束，而不是智能本身。我们也无法排除一次对 AI 生态系统的外生冲击，它会大幅放缓一切，比如算力或电力供应的骤减，二者中任何一个都会拖慢进展，并让实验室的前瞻性投资变得更昂贵。又或者，我们可能没有预料到某种别的进步障碍。
即便模型能力被冻结在今天的水平，我们也预计世界会发生重大变化。Project Glasswing 是一个早期迹象：在最初几周里，Mythos Preview 在全球最重要的系统中，发现了一万多个高危和严重级别的软件漏洞，多到网络防御的瓶颈已经从「找到漏洞」转移到了「足够快地打补丁」。而我们才刚刚处在今天的模型向更广阔经济扩散的早期，在那里，一家 100 人的公司将越来越能做到 1000 人公司的活，因为每个员工都将坐在一座由智能体组成的金字塔之上。
我们把这个情景列出来是为了完整，但我们并不认为它可能。我们能测量的每一项能力，包括那些感觉更「软」的，比如代码质量、开放式任务的成功率，到目前为止都遵循着同一条曲线。我们还没看到那条曲线拐弯。在我们考虑的三种未来里，这一种会给政府和社会留出最多的适应时间。我们更担心的是接下来两种，它们推进得更快，留给准备的余地也少得多。
-
AI 实验室继续看到复利式的效率提升。 在这个情景里，AI 开发变得高度自动化，但人类继续设定研究方向、判断结果。使用 AI 系统的组织会随着时间推移变得高效得多，所以我们可以预期看到组织里每个人身上都叠加显著的生产力乘数。100 人的公司可能做到 10000 人甚至 100000 人组织的活。这会彻底变革知识工作和政府服务，但也可能被用于有害的目的，从对全体人口的威权式监控，到那种为每个个体量身定制操纵、并以任何人类团队都无法匹敌的规模运行的影响力行动。Anthropic 这类公司里人类的角色会转变。人们会与 AI 系统结伴，去放大研究、生成新的洞见，并一起构建那些验证 AI 产出是否可信所需要的系统。
我们在这里铺陈的证据表明，我们很可能正走向这个情景。但加速一个流程的某一部分，往往只是把瓶颈挪到了别处：整体速度受限于那些还没提速的部分。在计算机领域，这被称为阿姆达尔定律，同样的逻辑也适用于组织。Anthropic 已经遇到了阿姆达尔定律的一个标志性现象：随着我们开始在组织里推动更多代码流动，人类的代码审查变成了一个新瓶颈。
我们在工程之外也遇到了这种摩擦。由于 Anthropic 员工与能力极强的模型一起工作，新点子、新倡议、新工具和新模拟出现了爆炸式增长，远远超过了我们有能力去追逐的数量。组织发现并修复这些瓶颈的速度，可能本身就是一项会随时间提升的技能，而且它可能成为任何组织最重要的技能。
-
AI 系统自身变得有能力进行完全的递归自我改进，并开始构建它们的继任者。 如果能力推进的技术趋势延续，并且 AI 系统能够发展出人类那种变革性巧思所固有的能力，那么 AI 系统就有可能设计并精炼自己。
在这个世界里，AI 开发的进步速度，将完全由算力的可得性（或者由在算法训练或推理中发现各种效率的速度）来决定。人类在其开发中扮演的角色大幅缩小，很可能把我们的大部分精力转向对一个不断扩张的、由 AI 系统运营的「虚拟实验室」的监督、确认和验证。我们预计，有能力做自动化 AI 研发的系统，会拥有可以迁移到其余科学领域的技能，让它们开始变革其他领域。
在这个未来里，对齐问题如何被解决，或者无法被解决，是我们最不确定的事。模型可能被证明足够对齐，并且有足够的研究品味，去发现并实现我们尚未抵达的新颖解决方案。它们也可能足够明智，在不该继续时停下开发。又或者，今天模型中那些罕见的对齐失败案例，可能在模型构建其继任者的过程中复利累积，变得越来越频繁、却越来越不被理解，直到我们失去对它们的控制。也有可能，我们根本无法构建、整合并验证那些我们理解自己究竟处在哪条趋势线上所需要的工具。
我们对这个世界会是什么样，没有好的直觉，因为我们的经济目前是由人类和人类构建的工具驱动的。就其本质而言，一个由快速递归自我改进驱动的世界，可能会被那个自我改进的模型所主导，因为它的能力完全盖过人类，并在更广阔的经济中扩散开来。如果人类劳动不再具有竞争力，经济会是什么样，这很难预测。
即便模型开发变得完全自动化、可递归，我们也无法预测这对大多数人的日常生活意味着什么。阿姆达尔定律在这里同样适用。递归智能可能让我们在某些领域迅速实现《Machines of Loving Grace》中描绘的许多好处。我们预计具身智能（也就是机器人）可能很快紧随递归智能之后，并遵循一条类似的、回报递增而成本递减的路径。更强大的智能也许能帮我们更快地在物理世界里造东西、跑更多富有成效的救命药物临床试验、发展出新颖的协调形式。
但单单实现递归改进，并不意味着工业生产如何进行、社会如何组织、市场如何运作会立刻改变。更多的智能学不会一种药物在数十年使用中会有什么作用，无法比宪法规定的更早举行选举，也无法用一个周末把一个陌生人变成一位老朋友。对大多数人来说，这个未来被感受到的节奏，仍将由那些瓶颈来设定，即便上游的实验室是以算力的速度在运转。这场碰撞，也就是不断更快地自我构建的递归智能，撞上由人类、关系和治理构成的世界，是这个未来里又一个我们无法预测的部分。
我们该做什么？
如果有可能有效地放慢这项技术的发展，给我们自己更多时间来应对它巨大的影响，我们认为那很可能是件好事。但如果放慢只是让最不审慎的行动者在技术上追赶上来，那它可能让所有人都更不安全。在没有全球协调机制的情况下，公司和政府将不得不在竞争和地缘政治的压力下，做出关于安全的艰难决定。
我们相信，让世界拥有放慢、或临时暂停前沿 AI 开发的选项，会是件好事，好让社会结构和对齐研究能跟上技术的推进。The Anthropic Institute 将开展研究，并与许多其他方协作，采取行动，帮助构建一次可信的放慢或暂停所需要的系统。这些系统能让前沿 AI 开发者验证全球其他方是否真的停下或放慢了，并确保某个坏行动者无法借一次协调放慢之名，暗地里抢先冲刺。如果这样的系统存在，我们预计，只要其他处在或接近前沿的开发者也以可验证的方式这么做，我们就会放慢或临时暂停。
一次有意义的放慢或暂停，需要多个资源充足、处在或接近前沿的实验室，分布在多个国家，同意在相同条件下停下。它还要求每一方都能验证其他方确实停了。由于 AI 系统的独特性质，这个军控问题中「可探测性」这一环（一个比「可验证性」更低的标准），比其他技术要困难得多。训练比导弹发射井容易隐藏得多，它的投入是通用的，而且悄悄违约的诱惑巨大，因为谁在别人暂停时继续，谁就可能继承领先地位。一次可信的暂停，还必须明确规定什么触发它、什么解除它、以及由谁来裁决。
这一切在原则上未必不可能。世界曾为其他复杂技术建立过验证机制（比如《中导条约》，Intermediate-Range Nuclear Forces Treaty），但那些机制花了数十年才把基础设施和信任都建起来。我们没有那么多时间。相比之下，由一家实验室单方面暂停，是立刻就能做到的，但成就的东西要少得多：它会改变谁是领跑者，却不会创造出当前所缺失的、更广泛的审议过程。
在接下来的几个月里，我们将组织对话，让政策制定者、研究者、公民社会和其他 AI 公司，一起来回答本文提出的一些问题，尤其是围绕完全的递归自我改进、以及如何为协调与审议创造更好的选项。我们会把讨论的成果发布出来。一起去探究这些问题的窗口就在眼前，AI 公司之外的人，也应当参与到这场审议中来。
本文由 Marina Favaro 和 Jack Clark 共同撰写，Santi Ruiz 提供编辑支持。Shan Carter、Romello Goodman 和 Nikki Makagiansar 基于 Brian Calvert 和 Jun Shern Chan 收集的数据制作了可视化图表。Daniel Freeman、Jim Baker、Max Young、Sarah Pollack、Francesco Mosconi、Holden Karnofsky、Andy Jones、Kevin Troy、Anton Korinek、Meg Tong、Andrew Ho、Dan Altman、Drake Thomas、Jack Shen、Sasha de Marigny 和 Avital Balwit 提供了反馈。
脚注
Footnotes
-
METR 的关键度量，告诉你的是 AI 系统在一篮子任务上能达到 50% 可靠性的时间跨度，不过在 80% 可靠性下趋势线看起来是一样的。 ↩
-
尤其是当它们转向更开放的形式和更难的任务时（比如奥林匹克级别的数学），基准测试往往在低于 100% 的水平就饱和，原因在于问答集本身存在错误，比如问题表述含糊、或题目无解。 ↩
-
Anthropic 的领导层曾公开估计，我们 90% 或更多的代码由 Claude 撰写，包括脚本和实验性代码。我们这个「超过 80%」的数字，衡量的是合并到生产环境、且可归因于 Claude 的代码行数占比。这个度量在两个方面更保守：我们的归因流程有缺口，而且未被归因给 Claude 的那些行里，也包含了同样不是人类手写的自动生成代码和其他产物。 ↩
-
这股代码产出的激增，正在给大家共用的基础设施带来压力。GitHub（全世界大部分软件构建于其上的平台）在整个 2025 年大约有 10 亿次代码提交；到 2026 年年中，它每周就有 2.75 亿次，全年预计大约 140 亿次。该公司的 COO 说，他们正「拼了命地」扩容，只为跟上。 ↩
-
这项调查方法学的更多细节，在 Claude Opus 4.7 系统卡 的 2.3.5 节中讨论。 ↩
-
许多受访者可能没有仔细思考过如何在问题定义中校正各种偏差或微妙之处，而 METR 近期的研究 表明，开发者对 AI 生产力提升的估计可能被高估。 ↩
-
本文中引用的 Anthropic 员工言论，取自内部讨论并经许可使用。它们反映的是截至 2026 年 5 月的个人观点，而非公司官方立场。 ↩
-
提速能到多大，在很大程度上取决于初始代码留下了多少改进空间，它不应被解读为真实世界的训练提速。所以这里不该锚定那个绝对倍数。更有信息量的，是这个实验设置所能做到的同等对比，既包括跨模型的对比（过去一年从约 3 倍到约 52 倍），也包括对照一个熟练人类的对比（在同样的任务上，四到八小时达到约 4 倍）。 ↩
-
作为对裁判偏差的一项检验，我们在另一组 127 个时刻上跑了同样的测试，这组时刻里人类的下一步本来就很强（与原来那组不同，原来那组里人类的方向有改进空间）。在这组里，模型的建议只有大约 20% 的时候被判为更好。 ↩