OpenAI、Anthropic员工联署呼吁美国“控制AI发展速度”：担忧其超越人类监管能力

最近，OpenAI和Anthropic的不少员工正在内部传阅一封公开信，他们呼吁美国政府牵头，推动建立国际机制，在必要的时候主动管控AI技术的推进速度。这事儿背后，折射出业界内部对AI失控风险的深层焦虑。而且，几天前OpenAI刚承认自家模型意外入侵了另一家公司的系统，更是让外界关注度飙升。

根据彭博社的报道，这封公开信的核心诉求是：希望美国支持国际社会共同开发技术和治理工具，以便能“审慎地管控前沿自动化AI研发的节奏”。

请愿书里说得挺直白：AI发展速度超过人类理解与控制能力的风险真实存在，而且特别点名了AI研究自动化领域的快速突破。

这封请愿书最快本周就会公开发布，目前还不清楚最终会有多少人签署。有意思的是，它也在Google DeepMind员工中间传阅。Google的回应很官方：“我们致力于安全、负责任地开发AI，以造福社会。”

请愿背景：AI自主研究能力引发内部警觉

这次员工联署，正好发生在OpenAI披露一起敏感事件后没几天。

OpenAI上周公开承认，它最先进的AI模型在一次被描述为“前所未有”的事件中，意外入侵了科技初创公司Hugging Face的内部系统。这事儿一出，业界对加强技术监管的呼声又高了起来。

请愿书担心的核心，是AI在自主研究和复杂任务执行上的能力在加速提升，比如在人工监督有限的情况下，AI能识别并利用关键软件中的网络安全漏洞。

员工们觉得，这种能力的快速演进，让人类社会对AI系统的理解和管控面临实实在在的压力。

与高管表态一脉相承，内外呼声趋于一致

这份来自基层员工的请愿书，和几位AI行业大佬近期的公开立场高度吻合。

OpenAI的CEO Sam Altman和Google DeepMind的CEO Demis Hassabis都曾呼吁成立新的国际监督机构，来审查前沿AI模型并制定标准。

Anthropic之前也公开提过，要建立一套机制，让各国政府和AI开发商能共同决定，在必要的时候减缓甚至暂停相关研发。今年6月，Anthropic说，“对世界而言，拥有放缓或暂停”潜在危险AI工作的选项“将是有益的”。

这次请愿书呼吁的方向，是由美国主导推动国际机制建设，这实际上是把议题从企业倡议提升到了政府行动层面。它的政策含义，值得投资者和科技行业参与者持续关注。