“AI即将失控”？Anthropic上市前罕见发出警告

6月5日消息，消息来得有些突然。估值逼近万亿美元、正处于上市前静默期的AI巨头Anthropic，在官方博客上罕见地发布了一篇概念警示。

过去几十年里，人类一直牢牢掌控着人工智能的每一个开发环节。但Anthropic最新披露的数据表明，这一格局正在发生不可逆的松动。不出意外的话，未来AI将能完全自主地设计并开发出比自身更强大的后继者，这个过程被称为“递归式自我提升”。

Anthropic在官方博客上罕见地抛出了一组数据，直指一个关键转变：

代码主导权正在转移。截至2026年5月，Anthropic合并入代码库的代码中，超过80%由Claude撰写。而在2025年2月Claude Code发布前，这个比例还只是个位数。

效率爆发式增长。2026年第二季度，Anthropic工程师平均每季度交付的代码量，是2021-2025年的8倍。文章特别强调，这一增长并非因为公司奖励代码行数，而是因为AI系统代写了绝大部分代码，人类工程师的角色已转向“指导和审查”。

这意味着什么？AI不再是单纯的被开发工具，它正在成为开发活动的主导者。

依照Anthropic的判断，如果这一趋势持续下去，并配合足够的计算资源，最终将导向一个关键节点：AI系统能够完全自主地设计、开发并迭代出更强大的下一代AI系统。这个节点，就是递归式自我提升。

“递归自我改进”：两年内可能成为现实

所谓递归自我改进，指的是AI系统无需人类干预，自主设计、改进并生成更强大的继任者的能力。这种能力一旦实现，就会形成一个自我加速的闭环：每一代AI都比上一代更强，迭代速度将远超人类参与的传统开发模式。

Anthropic表示，这一阶段“尚未到来”，但“可能比大多数机构准备应对的时间来得更早。”其内部研究负责人甚至认为，某些模型可能在两年内具备此能力。

这一阶段为何如此值得警惕？因为它意味着人类在AI演进链条中的位置，可能从“主导者”滑向“旁观者”。

基于此，Anthropic提出了一个在AI行业极为罕见的主张：全球应协调考虑暂停或放缓前沿AI的开发。

值得注意的是，Anthropic最近刚完成高达650亿美元的融资，估值接近1万亿美元，并向美国证券交易委员会提交了公开上市文件。在这样一个资本市场的关键时刻，任何一家即将登陆公开市场的公司，通常都会倾向于向投资者呈现乐观、可控的增长叙事。

但Anthropic选择了反向操作——在一路高歌猛进中，主动踩下一脚刹车。这个信号的分量，不容低估。