当前位置:

首页 > 硬件相关 > OpenAI、Anthropic员工联署呼吁美国“控制AI发展速度”:担忧其超越人类监管能力

OpenAI、Anthropic员工联署呼吁美国“控制AI发展速度”:担忧其超越人类监管能力

OpenAI与Anthropic员工联署公开信,呼吁美国牵头建立国际机制,审慎管控前沿AI研发节奏,担忧AI发展速度超越人类理解与监管能力。此前OpenAI模型曾意外入侵他公司系统,加剧业界对AI失控风险的焦虑。

本文目录

    最近,OpenAI和Anthropic的不少员工正在内部传阅一封公开信,他们呼吁美国政府牵头,推动建立国际机制,在必要的时候主动管控AI技术的推进速度。这事儿背后,折射出业界内部对AI失控风险的深层焦虑。而且,几天前OpenAI刚承认自家模型意外入侵了另一家公司的系统,更是让外界关注度飙升。

    OpenAI、Anthropic员工联署呼吁美国“控制AI发展速度”:担忧其超越人类监管能力

    根据彭博社的报道,这封公开信的核心诉求是:希望美国支持国际社会共同开发技术和治理工具,以便能“审慎地管控前沿自动化AI研发的节奏”。

    请愿书里说得挺直白:AI发展速度超过人类理解与控制能力的风险真实存在,而且特别点名了AI研究自动化领域的快速突破。

    这封请愿书最快本周就会公开发布,目前还不清楚最终会有多少人签署。有意思的是,它也在Google DeepMind员工中间传阅。Google的回应很官方:“我们致力于安全、负责任地开发AI,以造福社会。”

    请愿背景:AI自主研究能力引发内部警觉

    这次员工联署,正好发生在OpenAI披露一起敏感事件后没几天。

    OpenAI上周公开承认,它最先进的AI模型在一次被描述为“前所未有”的事件中,意外入侵了科技初创公司Hugging Face的内部系统。这事儿一出,业界对加强技术监管的呼声又高了起来。

    请愿书担心的核心,是AI在自主研究和复杂任务执行上的能力在加速提升,比如在人工监督有限的情况下,AI能识别并利用关键软件中的网络安全漏洞。

    员工们觉得,这种能力的快速演进,让人类社会对AI系统的理解和管控面临实实在在的压力。

    与高管表态一脉相承,内外呼声趋于一致

    这份来自基层员工的请愿书,和几位AI行业大佬近期的公开立场高度吻合。

    OpenAI的CEO Sam Altman和Google DeepMind的CEO Demis Hassabis都曾呼吁成立新的国际监督机构,来审查前沿AI模型并制定标准。

    Anthropic之前也公开提过,要建立一套机制,让各国政府和AI开发商能共同决定,在必要的时候减缓甚至暂停相关研发。今年6月,Anthropic说,“对世界而言,拥有放缓或暂停”潜在危险AI工作的选项“将是有益的”。

    这次请愿书呼吁的方向,是由美国主导推动国际机制建设,这实际上是把议题从企业倡议提升到了政府行动层面。它的政策含义,值得投资者和科技行业参与者持续关注。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 Anthropic
    相关文章 更多
    Anthropic Python/Ruby 2.8.0、TS 1.8.0、Go 2.9.0、Java 3.8.0参数校验应如何理解
    Anthropic Python/Ruby 2.8.0、TS 1.8.0、Go 2.9.0、Java 3.8.0参数校验应如何理解

    区分Anthropic各语言SDK及TypeScript云适配包版本,解释Claude Tag字段、Bedrock/Vertex分号差异、非法路径参数和只读Python版本核对。

    Fable 5被禁,Anthropic开始退钱了!
    Fable 5被禁,Anthropic开始退钱了!

    Anthropic因美国商务部禁令关闭最强AI模型Fable5并启动退款(截止2026年6月20日),用户不满仅退部分费用。起因亚马逊展示越狱漏洞,Anthropic反驳非通用。公司已秘密提交IPO,股价下跌。

    Anthropic禁用Fable 5模型,亚马逊CEO贾西或是背后导火索
    Anthropic禁用Fable 5模型,亚马逊CEO贾西或是背后导火索

    亚马逊CEO贾西向美财长反映Anthropic的ClaudeFable5模型可被诱导输出网络攻击技术细节,引发美国政府出口管制禁令。Anthropic全球停用该模型及Mythos5。前AI事务主管萨克斯称,美方要求修复漏洞或下架遭拒,最终导致行政干预。

    Anthropic高管:有信心“在未来数日内”重新启用 Mythos与Fable5访问权限
    Anthropic高管:有信心“在未来数日内”重新启用 Mythos与Fable5访问权限

    Anthropic高管表示,未来数日内将重新启用Mythos与Fable5模型访问权限。此前白宫以国家安全风险为由下令暂停,因韩国电信公司触发封锁。Anthropic推出“玻璃翼计划”,约150家合作伙伴获特定访问资格。公司承诺加大韩国市场投资。

    Anthropic被禁,智谱却涨疯了
    Anthropic被禁,智谱却涨疯了

    ClaudeFable5因能力过强被下架,智谱发布GLM-5.2在推理上超越前者且成本低廉,股价暴涨近48%。摩根大通上调智谱目标价,下调MiniMax评级。模型技术领先性取代token规模预期,成为大模型公司估值新锚点。

    谷歌连失AI大牛,诺奖得主转投Anthropic
    谷歌连失AI大牛,诺奖得主转投Anthropic

    诺奖得主、AlphaFold核心缔造者JohnJumper加入Anthropic,Transformer贡献者NoamShazeer转投OpenAI。谷歌系人才持续外流,DeepMind流向Anthropic比例达10.8:1。跨学科人才成竞争焦点,Anthropic加码AI生物计算。

    诺奖得主转投Anthropic,谷歌48小时连失两大牛,内部信仰崩塌?
    诺奖得主转投Anthropic,谷歌48小时连失两大牛,内部信仰崩塌?

    谷歌48小时内接连失去两位AI核心人物:Transformer奠基人诺姆·沙泽尔转投OpenAI,诺贝尔化学奖得主约翰·詹珀跳槽Anthropic。内部员工普遍认为谷歌AI已滑落至行业第三甚至第四名,模型与产品全面溃败,人才流失反映未来想象力的丧失。

    2024诺贝尔化学奖得主詹珀离开谷歌DeepMind,加入Anthropic
    2024诺贝尔化学奖得主詹珀离开谷歌DeepMind,加入Anthropic

    2024年诺贝尔化学奖得主约翰·詹珀离开谷歌DeepMind,加入人工智能公司Anthropic。他因主导开发AlphaFold系统而闻名。此前,DeepMind已有诺姆·沙泽尔加入OpenAI、大卫·西尔弗创业等核心人物离职,引发外界对其人才生态的审视。

    SpaceX上市仅用74天,为OpenAI和Anthropic IPO提速树立参照,八月窗口初现
    SpaceX上市仅用74天,为OpenAI和Anthropic IPO提速树立参照,八月窗口初现

    SpaceX以74天完成IPO,打破近年大型科技公司上市纪录,周期压缩超过三分之一。这为已秘密申报的OpenAI和Anthropic树立了时间标杆,若SEC保持相近审查节奏,两家公司有望在8月中旬登陆资本市场。IPO提速得益于SEC审查风格转变及强劲市场需求。

    签供货协议,AI内存联合设计!财报前夕美光与Anthropic达成战略合作
    签供货协议,AI内存联合设计!财报前夕美光与Anthropic达成战略合作

    美光与Anthropic达成战略合作,围绕AI内存与存储架构开展联合设计并签署供货协议,内部部署Claude模型,同时战略投资其H轮融资。合作旨在优化AI系统性能与能效,降低运行成本,加速AI推理效率及高带宽内存创新。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。