当前位置:

首页 > 硬件相关 > Anthropic CEO:政府应有权阻止、限制高风险新AI模型的部署

Anthropic CEO:政府应有权阻止、限制高风险新AI模型的部署

Anthropic首席执行官公开呼吁对人工智能实施强制性监管,主张政府有权阻止或限制存在不可接受风险的高性能AI模型部署。要求覆盖网络安全、生物武器等维度的强制第三方测试,与特朗普政府推行的自愿合规路线形成鲜明对立。

本文目录

    Anthropic首席执行官Dario Amodei这回算是把话挑明了——他公开呼吁对人工智能实施更严格的强制性监管,主张政府应当有权阻止那些存在安全风险的AI模型上线部署。这个立场,跟特朗普政府眼下推行的自愿合规路线,可以说是南辕北辙。

    Anthropic CEO:政府应有权阻止、限制高风险新AI模型的部署

    周三,Amodei在一篇长文里抛出重磅观点:AI模型必须强制接受第三方测试,测试范围要覆盖网络安全威胁、生物武器等多个风险维度。他写得清楚——如果某个模型被认定为“存在不可接受的风险”,那么“政府应有权阻止或限制其部署”。这是他迄今在AI监管议题上发出的最强音,没有之一。

    但问题来了:这个立场跟白宫现在的政策完全是两条道。特朗普本月初签署的行政令,只要求政府对AI模型获取自愿提交的访问权限,压根没要求开发者上线前必须拿审批。一边是主动请求政府“管一管”,另一边是“你自己看着办就好”——这落差,不是一般的大。

    监管主张:从透明度走向强制约束

    Amodei在文章里拿汽车、飞机和药品做类比,说得挺在理:AI跟这些技术一样,都是现代经济不可或缺的强大工具,但要是设计或运营出了岔子,同样有能力造成大规模伤亡。既然汽车上路要安全认证、飞机要适航许可、药品要临床审批,那AI凭什么就能“先跑再说”?

    “现在是时候从透明度迈向更严肃、更具约束力的AI监管了,”他写道。这里得提一句,他同时警告说,全球政策机制反应太慢,而AI带来的风险与机遇却会“出乎意料地迅速复合叠加”——这话听着,像是给所有决策者敲了一记警钟。

    事实上,就在上周,Anthropic还呼吁建立一套机制,让各国政府与AI开发商共同决定什么时候该放慢研发节奏。两次公开表态连在一起,信号很明确:这家公司正把推动监管框架建立当作战略优先项来干。

    Mythos模型:能力边界引发的内部抉择

    Amodei在文里特意拿自家新模型Mythos说事,称它“完美展示了AI的惊人能力与潜在风险”。这不是空话——Anthropic之前披露过,Mythos能识别并利用关键软件漏洞。因为这个本事,公司决定只把访问权限开放给少数合作伙伴。到了周二,他们又发布了一个剥离了网络安全功能的精简版,面向更广泛的用户。

    这一系列操作挺耐人寻味:前面还在喊“政府快来管我们”,背后自己已经开始了类似“监管”的自主筛选和限制。这不就是前沿AI开发商在产品能力与安全边界之间的内在矛盾么?一边呼吁外部介入,一边自己先动手把关——企业层面的先行尝试,恰恰说明行业自身的焦虑程度有多深。

    政策分歧:行业呼声与政府路线的错位

    Amodei这番表态,直接把Anthropic推到了当前联邦政策的对立面。特朗普行政令倾向用自愿机制替代强制审批,这届政府在AI领域的整体思路就是少管、放松。而Anthropic一直以来顶着“负责任的AI开发者”这顶帽子,现在公开要求政府获得强制介入权,等于是在监管议题上主动扮演更积极的推动角色。

    但话说回来,华盛顿现在的政策风向是偏宽松的。行业领袖喊得再响,能不能转化成真正的立法或监管行动,还得打个大大的问号。毕竟,从呼声到法规,中间隔着的不只是时间,更是利益、理念和博弈的交织。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 Anthropic
    上一篇: 微痕镌刻传承
    相关文章 更多
    Anthropic Python/Ruby 2.8.0、TS 1.8.0、Go 2.9.0、Java 3.8.0参数校验应如何理解
    Anthropic Python/Ruby 2.8.0、TS 1.8.0、Go 2.9.0、Java 3.8.0参数校验应如何理解

    区分Anthropic各语言SDK及TypeScript云适配包版本,解释Claude Tag字段、Bedrock/Vertex分号差异、非法路径参数和只读Python版本核对。

    Fable 5被禁,Anthropic开始退钱了!
    Fable 5被禁,Anthropic开始退钱了!

    Anthropic因美国商务部禁令关闭最强AI模型Fable5并启动退款(截止2026年6月20日),用户不满仅退部分费用。起因亚马逊展示越狱漏洞,Anthropic反驳非通用。公司已秘密提交IPO,股价下跌。

    Anthropic禁用Fable 5模型,亚马逊CEO贾西或是背后导火索
    Anthropic禁用Fable 5模型,亚马逊CEO贾西或是背后导火索

    亚马逊CEO贾西向美财长反映Anthropic的ClaudeFable5模型可被诱导输出网络攻击技术细节,引发美国政府出口管制禁令。Anthropic全球停用该模型及Mythos5。前AI事务主管萨克斯称,美方要求修复漏洞或下架遭拒,最终导致行政干预。

    Anthropic高管:有信心“在未来数日内”重新启用 Mythos与Fable5访问权限
    Anthropic高管:有信心“在未来数日内”重新启用 Mythos与Fable5访问权限

    Anthropic高管表示,未来数日内将重新启用Mythos与Fable5模型访问权限。此前白宫以国家安全风险为由下令暂停,因韩国电信公司触发封锁。Anthropic推出“玻璃翼计划”,约150家合作伙伴获特定访问资格。公司承诺加大韩国市场投资。

    Anthropic被禁,智谱却涨疯了
    Anthropic被禁,智谱却涨疯了

    ClaudeFable5因能力过强被下架,智谱发布GLM-5.2在推理上超越前者且成本低廉,股价暴涨近48%。摩根大通上调智谱目标价,下调MiniMax评级。模型技术领先性取代token规模预期,成为大模型公司估值新锚点。

    谷歌连失AI大牛,诺奖得主转投Anthropic
    谷歌连失AI大牛,诺奖得主转投Anthropic

    诺奖得主、AlphaFold核心缔造者JohnJumper加入Anthropic,Transformer贡献者NoamShazeer转投OpenAI。谷歌系人才持续外流,DeepMind流向Anthropic比例达10.8:1。跨学科人才成竞争焦点,Anthropic加码AI生物计算。

    诺奖得主转投Anthropic,谷歌48小时连失两大牛,内部信仰崩塌?
    诺奖得主转投Anthropic,谷歌48小时连失两大牛,内部信仰崩塌?

    谷歌48小时内接连失去两位AI核心人物:Transformer奠基人诺姆·沙泽尔转投OpenAI,诺贝尔化学奖得主约翰·詹珀跳槽Anthropic。内部员工普遍认为谷歌AI已滑落至行业第三甚至第四名,模型与产品全面溃败,人才流失反映未来想象力的丧失。

    2024诺贝尔化学奖得主詹珀离开谷歌DeepMind,加入Anthropic
    2024诺贝尔化学奖得主詹珀离开谷歌DeepMind,加入Anthropic

    2024年诺贝尔化学奖得主约翰·詹珀离开谷歌DeepMind,加入人工智能公司Anthropic。他因主导开发AlphaFold系统而闻名。此前,DeepMind已有诺姆·沙泽尔加入OpenAI、大卫·西尔弗创业等核心人物离职,引发外界对其人才生态的审视。

    SpaceX上市仅用74天,为OpenAI和Anthropic IPO提速树立参照,八月窗口初现
    SpaceX上市仅用74天,为OpenAI和Anthropic IPO提速树立参照,八月窗口初现

    SpaceX以74天完成IPO,打破近年大型科技公司上市纪录,周期压缩超过三分之一。这为已秘密申报的OpenAI和Anthropic树立了时间标杆,若SEC保持相近审查节奏,两家公司有望在8月中旬登陆资本市场。IPO提速得益于SEC审查风格转变及强劲市场需求。

    签供货协议,AI内存联合设计!财报前夕美光与Anthropic达成战略合作
    签供货协议,AI内存联合设计!财报前夕美光与Anthropic达成战略合作

    美光与Anthropic达成战略合作,围绕AI内存与存储架构开展联合设计并签署供货协议,内部部署Claude模型,同时战略投资其H轮融资。合作旨在优化AI系统性能与能效,降低运行成本,加速AI推理效率及高带宽内存创新。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。