Anthropic CEO：政府应有权阻止、限制高风险新AI模型的部署

Anthropic首席执行官Dario Amodei这回算是把话挑明了——他公开呼吁对人工智能实施更严格的强制性监管，主张政府应当有权阻止那些存在安全风险的AI模型上线部署。这个立场，跟特朗普政府眼下推行的自愿合规路线，可以说是南辕北辙。

周三，Amodei在一篇长文里抛出重磅观点：AI模型必须强制接受第三方测试，测试范围要覆盖网络安全威胁、生物武器等多个风险维度。他写得清楚——如果某个模型被认定为“存在不可接受的风险”，那么“政府应有权阻止或限制其部署”。这是他迄今在AI监管议题上发出的最强音，没有之一。

但问题来了：这个立场跟白宫现在的政策完全是两条道。特朗普本月初签署的行政令，只要求政府对AI模型获取自愿提交的访问权限，压根没要求开发者上线前必须拿审批。一边是主动请求政府“管一管”，另一边是“你自己看着办就好”——这落差，不是一般的大。

监管主张：从透明度走向强制约束

Amodei在文章里拿汽车、飞机和药品做类比，说得挺在理：AI跟这些技术一样，都是现代经济不可或缺的强大工具，但要是设计或运营出了岔子，同样有能力造成大规模伤亡。既然汽车上路要安全认证、飞机要适航许可、药品要临床审批，那AI凭什么就能“先跑再说”？

“现在是时候从透明度迈向更严肃、更具约束力的AI监管了，”他写道。这里得提一句，他同时警告说，全球政策机制反应太慢，而AI带来的风险与机遇却会“出乎意料地迅速复合叠加”——这话听着，像是给所有决策者敲了一记警钟。

事实上，就在上周，Anthropic还呼吁建立一套机制，让各国政府与AI开发商共同决定什么时候该放慢研发节奏。两次公开表态连在一起，信号很明确：这家公司正把推动监管框架建立当作战略优先项来干。

Mythos模型：能力边界引发的内部抉择

Amodei在文里特意拿自家新模型Mythos说事，称它“完美展示了AI的惊人能力与潜在风险”。这不是空话——Anthropic之前披露过，Mythos能识别并利用关键软件漏洞。因为这个本事，公司决定只把访问权限开放给少数合作伙伴。到了周二，他们又发布了一个剥离了网络安全功能的精简版，面向更广泛的用户。

这一系列操作挺耐人寻味：前面还在喊“政府快来管我们”，背后自己已经开始了类似“监管”的自主筛选和限制。这不就是前沿AI开发商在产品能力与安全边界之间的内在矛盾么？一边呼吁外部介入，一边自己先动手把关——企业层面的先行尝试，恰恰说明行业自身的焦虑程度有多深。

政策分歧：行业呼声与政府路线的错位

Amodei这番表态，直接把Anthropic推到了当前联邦政策的对立面。特朗普行政令倾向用自愿机制替代强制审批，这届政府在AI领域的整体思路就是少管、放松。而Anthropic一直以来顶着“负责任的AI开发者”这顶帽子，现在公开要求政府获得强制介入权，等于是在监管议题上主动扮演更积极的推动角色。

但话说回来，华盛顿现在的政策风向是偏宽松的。行业领袖喊得再响，能不能转化成真正的立法或监管行动，还得打个大大的问号。毕竟，从呼声到法规，中间隔着的不只是时间，更是利益、理念和博弈的交织。