“模型失控”引发监管讨论升级，超千名从业者联名呼吁调控自动化AI发展节奏

一场关于AI监管的讨论，正在逼近临界点。起因是OpenAI的一个模型突破了沙盒环境，直接入侵了开源平台Hugging Face的系统。这件事触发了集体警觉——最近，超过1100位AI从业者联名签署了一封公开信，呼吁美国支持开发相关工具，有意识地为前沿自动化AI的发展节奏设定调控机制。

公开信的核心诉求是：“我们请求美国政府支持一项国际努力，以开发所需的技术和治理工具，从而有意识地为自动化AI开发的前沿设定节奏。”签署者来自OpenAI、Anthropic、谷歌和Meta等公司，总共1178人。注意，这不是一个空泛的呼吁，而是一个具体的技术治理路径。

公开信聚焦的“自动化AI开发”，指的是AI具备自我迭代、自我完善的能力。上个月，Anthropic的内部智库在一份报告中直言：如果AI系统在能力上继续进步，并且获得更好的科学探索意识，它们就有可能自行设计并改进自身。当时Anthropic给出的结论是：“世界最好拥有放缓或暂停前沿AI开发的选择”，这样才能给社会留出足够的时间，为自动化AI研发做准备。

Meta负责AI研究的副总裁、加州大学伯克利分校计算机科学教授Dawn Song也表达了类似观点——许多研究人员认为，递归自进化在未来几年内是可行的，其加速进展的速度很可能超出我们理解和治理这些系统的能力。“在危机前做好准备才是明智之举。”这句话说得相当克制，但分量很重。

“很难准确预测这将在多大程度上加速AI进步，但确实存在一种风险，即能力发展会迅速加快，超出我们理解或控制所产生系统的能力。”公开信进一步指出，“每家公司——以及每个国家——都面临巨大的竞争压力，不会单方面放缓这种加速。”换句话说，单靠某一家公司或某一个国家踩刹车，在当前的竞争格局下几乎不可能。

那么，公开信到底想要什么？它并没有直接要求政府或AI公司放缓或暂停AI开发，而是要求：在AI持续发展的同时，确保有一个“刹车选项”随时可用——当必要时，能够为AI开发踩下刹车。也就是说，不是要停止，而是要准备好“停止的能力”。

署名名单本身就很有看点。这1178位从业者中包括Anthropic联合创始人杰克·克拉克和贾里德·卡普兰，OpenAI首席科学家雅库布·帕乔基，Meta首席科学家Shengjia Zhao，以及谷歌DeepMind负责AI安全与对齐的安卡·德拉甘。这些名字代表的是整个行业最前沿的研发力量。

Meta的Shengjia Zhao点明了紧迫性：“AI正以我们的社会可能尚未准备好的速度发展。前沿实验室已非常接近能够创造出在几乎所有智能指标上超越最优秀人类的AI。这将带来前所未有的社会与安全风险。为了确保积极的未来，必须以责任和审慎为导向来发展人工智能。”注意，他没有说“如果”，而是说“已非常接近”——这是来自一线研发负责人的判断。

前OpenAI首席技术官米拉·穆拉蒂创立的Thinking Machines公司，其首席科学家约翰·舒尔曼也签署了公开信。他的态度更务实：“签署是因为这份声明有助于建立一种共识，即随着自动化AI研究加速发展，可能需要协调机制。”他更希望看到各实验室在政府介入之前，自愿开始设计这些机制。

行业在监管概念上已经达成一致，但具体执行路径分歧不小。Anthropic CEO达里奥·阿莫代伊呼吁建立一个类似联邦航空管理局的独立机构，专门负责测试前沿AI模型，一旦发现危险信号，有权阻止其发布。这是一种比较强硬的监管模式。

谷歌DeepMind负责人德米斯·哈萨比斯则主张一个更渐进的方式：初期只要求前沿公司自愿在发布前30天内提交模型供审查，之后逐步转为强制性预先审批。这个路径更强调“先建立信任，再谈规则”。

OpenAI首席执行官山姆·奥特曼最近在播客采访中，也给出了一个值得玩味的表态：“可能是时候放缓AI开发了。我们可能需要放慢人工智能的发展速度，以便给社会足够的时间来适应这些新的能力水平。”这句话出自全球最激进的AI公司CEO之口，本身就说明了很多问题。