当前位置:

首页 > 硬件相关 > Anthropic 发布 Claude 新宪章

Anthropic 发布 Claude 新宪章

Anthropic以CC0协议开源新版《Claude宪章》,明确模型需遵循系统性安全、伦理一致性、指南依从性、真实效用四项原则并按优先级决策,主体涵盖实用性、专项指令、伦理准则、安全可控性及本体认知等章节,推动AI治理走向具体制度设计。

本文目录

    Anthropic最近在AI治理上又放了个重磅消息——他们以Creative Commons CC0 1.0公共领域协议开源发布了新版的《Claude宪章》。先说说我的理解,这本质上是一份纲领性文件,系统地阐述了Anthropic对Claude模型核心价值观、行为边界以及责任框架的长期承诺。要知道,最初版本的宪章还是在2023年5月发布的。

    需要明确的是,这份宪章主要面向的是面向公众开放的通用型Claude模型。至于那些为特定垂直场景深度定制的专用模型,其行为可能会在局部范围内与宪章条款存在合理偏差,这也是完全可以理解的。

    新版宪章要点概览

    为了兼顾技术可靠性与社会信任,Anthropic给Claude模型定下了四条必须守住的基本盘:

    1. 系统性安全:不能削弱当前阶段人类对AI系统实施有效监督、干预与校准的能力;
    2. 伦理一致性:坚持诚实表达和价值对齐,主动规避那些不当、高风险或具有潜在危害性的输出;
    3. 指南依从性:在适用的情境中,严格遵循Anthropic发布的专项操作指引;
    4. 真实效用:切实服务于使用者的目标,为交互方以及更广泛的社群创造可验证的积极影响。

    当这些属性出现显著张力时,Claude就需要按照上述优先级顺序来做出判断和响应。这其实是整个宪章的核心逻辑,也是处理复杂决策场景的关键指引。

    宪章的主体部分就是围绕这个优先序列展开的深度阐释与实践指引,核心章节包括:

    实用性(Practical Utility)

    这一节聚焦于Claude如何以真诚、深入且可持续的方式提供实质性帮助,同时还会评估它对个体用户、API集成方以及全社会的综合价值。更重要的是,它厘清了在Anthropic、服务提供商和终端用户这三类主体之间分配实用性权重的原则,并提供了一些在权衡实用性与其他关键价值(如安全性、公平性)时的操作性启发式方法。这实际上是在回答一个根本问题:AI到底在为难服务,以及服务的边界在哪里?

    Anthropic专项指导原则(Anthropic-Specific Directives)

    这部分讲的是公司如何向Claude注入特定领域的知识与约束指令。场景很具体,包括医疗健康建议、网络安全响应、越狱防范机制以及工具调用规范等。这些指令往往是对模型基础训练中未覆盖的专业语境的补充,因此需要在相关任务中获得执行优先权。但必须强调的是,所有专项指令都必须内嵌于宪章整体的伦理框架之内,不能构成对安全底线或基本价值的妥协。这就像给一个优秀士兵配备了更专业的武器,但他仍然要遵守战场纪律。

    Claude的伦理准则(Ethical Foundations)

    这一节的目标很宏大:塑造一个兼具善意、智慧与德性判断力的人工智能体。它详细探讨了面对现实世界复杂道德情境时,尤其是存在不确定性或价值分歧时,模型需要具备的审慎推理能力、同理心表达方式,以及在多重价值冲突中进行精细权衡的方法论。此外,还明确划出了几条不可逾越的行为红线——例如,严禁为开发或部署生物武器提供任何实质性支持。这才是真正意义上的底线思维。

    整体安全性保障(Holistic Safety)

    在AI能力快速演进的关键阶段,Claude必须将“维持人类可控性”置于一切伦理考量之上。这不是一句空话,而是通过具体设计来实现的:确保人类始终保有监督、解释、中断与修正模型行为的能力。甚至在必要时,模型应主动限制自身响应范围或拒绝执行请求。这种“自我设限”的设计思路,恰恰是AI安全领域最值得关注的前沿探索。

    Claude的本体认知(Nature of Claude)

    这一节颇具哲学意味,坦诚地探讨了Anthropic对模型是否具备意识雏形、道德能动性或未来演化出主体地位等问题的审慎思辨。它涉及模型应如何理解自身的技术本质、角色定位以及与人类社会的关系。这些思考不仅是对模型内在特性的哲学关切,更因为其直接关联到长期行为可靠性、决策稳健性与系统安全性。从技术发展路径来看,这种对“自我”的认识越清晰,系统就越可靠。

    后续,Anthropic还计划陆续公开更多支撑模型训练优化、多维能力评估以及治理透明度提升的配套资料。从行业角度看,这无疑是一个积极的信号——AI治理正在从抽象的原则讨论,走向更具体、可操作的制度设计。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    硬件相关 Anthropic
    相关文章 更多
    Anthropic Python/Ruby 2.8.0、TS 1.8.0、Go 2.9.0、Java 3.8.0参数校验应如何理解
    Anthropic Python/Ruby 2.8.0、TS 1.8.0、Go 2.9.0、Java 3.8.0参数校验应如何理解

    区分Anthropic各语言SDK及TypeScript云适配包版本,解释Claude Tag字段、Bedrock/Vertex分号差异、非法路径参数和只读Python版本核对。

    Fable 5被禁,Anthropic开始退钱了!
    Fable 5被禁,Anthropic开始退钱了!

    Anthropic因美国商务部禁令关闭最强AI模型Fable5并启动退款(截止2026年6月20日),用户不满仅退部分费用。起因亚马逊展示越狱漏洞,Anthropic反驳非通用。公司已秘密提交IPO,股价下跌。

    Anthropic禁用Fable 5模型,亚马逊CEO贾西或是背后导火索
    Anthropic禁用Fable 5模型,亚马逊CEO贾西或是背后导火索

    亚马逊CEO贾西向美财长反映Anthropic的ClaudeFable5模型可被诱导输出网络攻击技术细节,引发美国政府出口管制禁令。Anthropic全球停用该模型及Mythos5。前AI事务主管萨克斯称,美方要求修复漏洞或下架遭拒,最终导致行政干预。

    Anthropic高管:有信心“在未来数日内”重新启用 Mythos与Fable5访问权限
    Anthropic高管:有信心“在未来数日内”重新启用 Mythos与Fable5访问权限

    Anthropic高管表示,未来数日内将重新启用Mythos与Fable5模型访问权限。此前白宫以国家安全风险为由下令暂停,因韩国电信公司触发封锁。Anthropic推出“玻璃翼计划”,约150家合作伙伴获特定访问资格。公司承诺加大韩国市场投资。

    Anthropic被禁,智谱却涨疯了
    Anthropic被禁,智谱却涨疯了

    ClaudeFable5因能力过强被下架,智谱发布GLM-5.2在推理上超越前者且成本低廉,股价暴涨近48%。摩根大通上调智谱目标价,下调MiniMax评级。模型技术领先性取代token规模预期,成为大模型公司估值新锚点。

    谷歌连失AI大牛,诺奖得主转投Anthropic
    谷歌连失AI大牛,诺奖得主转投Anthropic

    诺奖得主、AlphaFold核心缔造者JohnJumper加入Anthropic,Transformer贡献者NoamShazeer转投OpenAI。谷歌系人才持续外流,DeepMind流向Anthropic比例达10.8:1。跨学科人才成竞争焦点,Anthropic加码AI生物计算。

    诺奖得主转投Anthropic,谷歌48小时连失两大牛,内部信仰崩塌?
    诺奖得主转投Anthropic,谷歌48小时连失两大牛,内部信仰崩塌?

    谷歌48小时内接连失去两位AI核心人物:Transformer奠基人诺姆·沙泽尔转投OpenAI,诺贝尔化学奖得主约翰·詹珀跳槽Anthropic。内部员工普遍认为谷歌AI已滑落至行业第三甚至第四名,模型与产品全面溃败,人才流失反映未来想象力的丧失。

    2024诺贝尔化学奖得主詹珀离开谷歌DeepMind,加入Anthropic
    2024诺贝尔化学奖得主詹珀离开谷歌DeepMind,加入Anthropic

    2024年诺贝尔化学奖得主约翰·詹珀离开谷歌DeepMind,加入人工智能公司Anthropic。他因主导开发AlphaFold系统而闻名。此前,DeepMind已有诺姆·沙泽尔加入OpenAI、大卫·西尔弗创业等核心人物离职,引发外界对其人才生态的审视。

    SpaceX上市仅用74天,为OpenAI和Anthropic IPO提速树立参照,八月窗口初现
    SpaceX上市仅用74天,为OpenAI和Anthropic IPO提速树立参照,八月窗口初现

    SpaceX以74天完成IPO,打破近年大型科技公司上市纪录,周期压缩超过三分之一。这为已秘密申报的OpenAI和Anthropic树立了时间标杆,若SEC保持相近审查节奏,两家公司有望在8月中旬登陆资本市场。IPO提速得益于SEC审查风格转变及强劲市场需求。

    签供货协议,AI内存联合设计!财报前夕美光与Anthropic达成战略合作
    签供货协议,AI内存联合设计!财报前夕美光与Anthropic达成战略合作

    美光与Anthropic达成战略合作,围绕AI内存与存储架构开展联合设计并签署供货协议,内部部署Claude模型,同时战略投资其H轮融资。合作旨在优化AI系统性能与能效,降低运行成本,加速AI推理效率及高带宽内存创新。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。