英美等国联合发布《AI系统开发指引》,号称全球首份相关安全标准
IT之家11月28日消息,美国网络安全兼基础架构安全管理署(CISA)及英国国家网络安全中心(NCSC)日前正式发布《安全AI系统开发指引》(GuidelinesforSecureAISystemDevelopment)白皮书。该白皮书号称“首份全球AI安全标准”,旨在从设计阶段强化AI系统的安全性,以防范可能的安全风险。据悉,这份指引是由包括美、英、德、法、日、韩、新加坡在内18国,并联合微软、谷歌、OpenAI、Anthropic、ScaleAI等23个网络安全组织参与制定。▲图源英国相关部门具体而言
IT之家 11 月 28 日消息,美国网络安全兼基础架构安全管理署(CISA)及英国国家网络安全中心(NCSC)日前正式发布《安全 AI 系统开发指引》(Guidelines for Secure AI System Development)白皮书。
该白皮书号称“首份全球 AI 安全标准”,旨在从设计阶段强化 AI 系统的安全性,以防范可能的安全风险。
据悉,这份指引是由包括美、英、德、法、日、韩、新加坡在内 18 国,并联合微软、谷歌、OpenAI、Anthropic、Scale AI 等 23 个网络安全组织参与制定。
▲ 图源英国相关部门
具体而言,指引包含 4 个主要部分:安全设计、安全开发、安全部署及安全运营(operation and maintenance),指引为每一个部分都提出可能的安全风险及避免方法,以协助开发人员从源头降低相关安全风险。
▲ 图源英国相关部门
IT之家注意到,这个指南的主要目的是提供开发AI系统所需的必要建议,并强调开发AI系统应遵循“安全设计”的原则。英国CISA指出,这个指南将客户安全、透明度和责任以及建立“安全设计”组织结构列为首要任务
这份指引适用于所有类型的 AI 系统,除了涵盖行业内的“尖端模型”,也包含其他利用外部代管的模型或是 API 系统。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。
















