当前位置:

首页 > 业界资讯 > 英美等国联合发布《AI系统开发指引》,号称全球首份相关安全标准

英美等国联合发布《AI系统开发指引》,号称全球首份相关安全标准

IT之家11月28日消息,美国网络安全兼基础架构安全管理署(CISA)及英国国家网络安全中心(NCSC)日前正式发布《安全AI系统开发指引》(GuidelinesforSecureAISystemDevelopment)白皮书。该白皮书号称“首份全球AI安全标准”,旨在从设计阶段强化AI系统的安全性,以防范可能的安全风险。据悉,这份指引是由包括美、英、德、法、日、韩、新加坡在内18国,并联合微软、谷歌、OpenAI、Anthropic、ScaleAI等23个网络安全组织参与制定。▲图源英国相关部门具体而言

本文目录

    IT之家 11 月 28 日消息,美国网络安全兼基础架构安全管理署(CISA)及英国国家网络安全中心(NCSC)日前正式发布《安全 AI 系统开发指引》(Guidelines for Secure AI System Development)白皮书。

    该白皮书号称“首份全球 AI 安全标准”,旨在从设计阶段强化 AI 系统的安全性,以防范可能的安全风险。

    英美等国联合发布《AI系统开发指引》,号称全球首份相关安全标准

    据悉,这份指引是由包括美、英、德、法、日、韩、新加坡在内 18 国,并联合微软、谷歌、OpenAI、Anthropic、Scale AI 等 23 个网络安全组织参与制定。

    英美等国联合发布《AI系统开发指引》,号称全球首份相关安全标准

    ▲ 图源英国相关部门

    具体而言,指引包含 4 个主要部分:安全设计、安全开发、安全部署及安全运营(operation and maintenance),指引为每一个部分都提出可能的安全风险及避免方法,以协助开发人员从源头降低相关安全风险。

    英美等国联合发布《AI系统开发指引》,号称全球首份相关安全标准

    ▲ 图源英国相关部门

    IT之家注意到,这个指南的主要目的是提供开发AI系统所需的必要建议,并强调开发AI系统应遵循“安全设计”的原则。英国CISA指出,这个指南将客户安全、透明度和责任以及建立“安全设计”组织结构列为首要任务

    这份指引适用于所有类型的 AI 系统,除了涵盖行业内的“尖端模型”,也包含其他利用外部代管的模型或是 API 系统。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯
    相关文章 更多
    AI系统可将蛋白质序列“翻译”成文字
    AI系统可将蛋白质序列“翻译”成文字

    以色列理工学院和特拉维夫大学研发的BetaDescribe系统能将蛋白质序列“翻译”为文字描述,自动生成功能、特性等信息。该系统结合生成式模型与验证机制,可推断完全未知蛋白质的功能,并提供催化活性、代谢过程等详细信息。经6种未表征蛋白验证有效,有望加速药物研发和新材料设计。

    AI系统可在野外自动开展猴类认知研究
    AI系统可在野外自动开展猴类认知研究

    一套名为CapuchinAI的人工智能系统,利用面部识别和触摸屏在野外自动研究卷尾猴认知。系统集成摄像头、屏幕和食物奖励,识别准确率达97%,为标准化评估野生灵长类认知能力提供了新途径。

    面壁智能开源全球首个Stencil优化AI系统
    面壁智能开源全球首个Stencil优化AI系统

    8月4日,面壁智能联合OpenBMB开源全球首个基于Stencil优化的“自动研究+自动部署”AI系统ForgeStencil。fp32精度下几何平均加速2.35倍,混合精度额外提速1.95倍;真实场景中CAE求解器加速3.86倍,电磁仿真FDTD提升2.47倍,核反应堆中子学计算最高加速5.78倍,推动AI科学计算自动化。

    WAIC2026| 亮亮视野展出全链路AR+AI系统化产业方案
    WAIC2026| 亮亮视野展出全链路AR+AI系统化产业方案

    2026世界人工智能大会上,亮亮视野展出覆盖个人沟通、大型会议协同及工业场景的AR+AI系统化方案,包括Hey2翻译眼镜、听语者字幕眼镜、多语种会议翻译系统及GLXSSSE等专业终端,呈现从硬件比拼转向场景化落地的趋势。

    微软与AMD深化AI合作,Azure引入Helios机架级AI系统
    微软与AMD深化AI合作,Azure引入Helios机架级AI系统

    微软在Azure云平台部署AMDHelios机架级AI系统,用于前沿模型推理,计划2026年下半年发货。Helios整合AMD自研GPU、CPU、网络芯片,与英伟达机架级系统直接竞争,已获Meta、OpenAI等客户采用。AMD市场份额有望从4.5%提升至20%至25%,但软件生态仍是关键差距。

    AMD推出首款机架级AI系统Helios挑战英伟达
    AMD推出首款机架级AI系统Helios挑战英伟达

    AMD发布首款机架级AI系统Helios,集成GPU、CPU、网络与软件,2026年大规模部署。微软、Meta、OpenAI、甲骨文等已确认。系统旨在挑战英伟达,目标2027年数据中心AI业务贡献数百亿美元。

    AMD首款机架式AI系统Helios落地 微软宣布成为核心客户
    AMD首款机架式AI系统Helios落地 微软宣布成为核心客户

    AMD发布首款机架式AI系统Helios,对标英伟达高端方案。微软成为首批核心客户,将在Azure数据中心部署。该系统由18个计算托架组成,每托架搭载4颗InstinctGPU。AMD目标2027年AI业务营收突破数百亿美元,Helios将贡献主要增量。

    微软前高管砸百万美元 让AI系统全面接管CEO职责!
    微软前高管砸百万美元 让AI系统全面接管CEO职责!

    微软前AI高管自投百万美元创立SkyfallAI,计划收购一家中小软件企业,让AI系统担任CEO,部署多个智能体覆盖战略、财务、人力等模块,同时配置真人主管监督与重大风险干预,打造全球首个AI全权执掌真实商业实体的实验。

    【微特稿】应对AI编造虚假判例 韩国研发AI系统辅助庭审
    【微特稿】应对AI编造虚假判例 韩国研发AI系统辅助庭审

    韩国大法院推动修法引入罚款机制,要求律师庭前坦白是否使用AI,引用虚假判例将受罚并承担诉讼成本;同时投入161亿韩元研发内部AI系统,辅助法官识别AI生成的假判例,试点版本已上线。

    AI系统揭示肥胖可能造成隐性全身损伤
    AI系统揭示肥胖可能造成隐性全身损伤

    来源:科技日报 科技日报记者 张佳欣 肥胖的危害,可能比我们想象的更深远。一项由德国亥姆霍兹慕尼黑研究中心、慕尼黑大学等机构合作的研究,借助一项突破性的AI技术,揭示了肥胖可能带来的“隐性”全身损伤,其中甚至包括负责面部感觉的神经。这项成果已于近期发表在《自然》杂志上。 研究团队的核心武器,是一个名

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。