当前位置:

首页 > 业界资讯 > 征求意见:明确五类安全风险的生成式AI安全指导性文件

征求意见:明确五类安全风险的生成式AI安全指导性文件

中新经纬10月12日电据全国信息安全标准化技术委员会网站消息,日前,全国信息安全标准化技术委员会秘书处发布《生成式人工智能服务安全基本要求(征求意见稿)》(以下简称《基本要求》)。《基本要求》给出了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施、安全评估等,适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平,或是提供者自行或委托第三方开展安全评估,也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。《基本要求》明确,生成式人工智能服务是基于数据、算法、模

本文目录

    中新经纬10月12日电 据全国信息安全标准化技术委员会网站消息,日前,全国信息安全标准化技术委员会秘书处发布《生成式人工智能服务安全基本要求(征求意见稿)》(以下简称《基本要求》)。

    《基本要求》给出了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施、安全评估等,适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平,或是提供者自行或委托第三方开展安全评估,也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。

    《基本要求》明确,生成式人工智能服务是基于数据、算法、模型、规则,能够根据使用者提示生成文本、图片、音频、视频等内容的人工智能服务。

    征求意见:明确五类安全风险的生成式AI安全指导性文件

    来源:全国信息安全标准化技术委员会网站

    在语料内容安全方面,基本要求提出了三个主要内容:

    需要进行重新改写的内容是:在训练语料内容过滤方面,应该采用关键词、分类模型和人工抽检等方法,全面过滤所有语料中的违法不良信息

    需要进行改写的内容是:其次,在知识产权方面,应该设立负责语料和生成内容的知识产权专员,并制定相应的知识产权管理策略。在进行语料训练之前,知识产权专员应该对语料中的知识产权侵权情况进行识别,并确保提供的语料没有侵权问题

    在个人信息方面的重写内容如下:在使用包含个人信息的语料时,必须获得对应个人信息主体的授权同意,或者符合其他合法使用该个人信息的条件等

    在安全措施要求方面,《基本要求》明确提出了针对服务适用于未成年人的特殊要求。这些要求包括允许监护人设定未成年人的防沉迷措施,并通过密码保护来实施;限制未成年人每日对话的次数和时长,如果超过限制,则需要输入管理密码;未成年人进行消费前需要经过监护人的确认;还需要过滤掉不适合未成年人的内容,只展示对身心健康有益的内容。对于不适用于未成年人的服务,应采取技术或管理措施来防止未成年人的使用

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    业界资讯
    相关文章 更多
    幻方与DeepSeek:萤火二号算力积累和V3训练硬件怎么区分?
    幻方与DeepSeek:萤火二号算力积累和V3训练硬件怎么区分?

    理清幻方量化与DeepSeek的发展脉络,关键在于区分早期萤火二号的A100集群积累与DeepSeek-V3的H800训练配置。本文解析软硬件协同工程在其中的作用,避免将资金投入简单等同于模型能力。

    Kimi K3.1 Pro、SKY-001与Mercury 3:用途与评测指标
    Kimi K3.1 Pro、SKY-001与Mercury 3:用途与评测指标

    了解 Kimi K3.1 Pro 案例费用、SKY-001 零件构建耗时和 Mercury 3 测试表的限定条件,查看经核实的官方产品说明入口。

    laper ai什么工资薪资待遇与岗位收入查询教程
    laper ai什么工资薪资待遇与岗位收入查询教程

    想了解Laper AI的真实工资待遇?本文教你如何通过多渠道交叉验证岗位薪资,识别招聘话术中的水分,获取更准确的收入预期参考。

    豆包、火山引擎与TRAE有什么区别?视频生成与办公用途导览
    豆包、火山引擎与TRAE有什么区别?视频生成与办公用途导览

    解析字节旗下豆包App、火山引擎、Seedance、TRAE及飞书的定位差异。通过官方文档核对云服务、视频模型、编程工具与办公AI的功能边界,帮助读者准确选择适合的产品入口。

    AI Agent、Genie 4与机器人有什么区别?从任务输入到场景演示
    AI Agent、Genie 4与机器人有什么区别?从任务输入到场景演示

    认识AI Agent、Genie 4与机器人的区别:任务输入不等于完成结果,世界模拟不等于现实执行,装载机动作展示也不能替代完整工程验收。

    claude怎么收费最新价格与会员收费标准详解
    claude怎么收费最新价格与会员收费标准详解

    想了解Claude怎么收费?本文梳理了Claude Free、Pro及Team版的最新月费价格、消息限额与高级功能权益,并对比了不同层级的性价比,助你快速找到适合的AI办公伙伴。

    本周AI动态怎么理解?DeepSeek、可灵与特斯拉相关话题
    本周AI动态怎么理解?DeepSeek、可灵与特斯拉相关话题

    本周AI领域热点集中在DeepSeek编程效率、可灵30秒视频生成及特斯拉Roadster飞行演示。本文不罗列参数,而是从普通用户视角出发,分析如何正确评估编程助手的真实成本、视频生成的控制能力以及硬件展示的落地限制,助你透过现象看本质。

    Harness Engineering是什么?与提示词、上下文工程的关系
    Harness Engineering是什么?与提示词、上下文工程的关系

    了解 Harness Engineering 的核心定义及其与提示词工程、上下文工程的关系。文章通过分层视角,解释如何从问题表达、信息组织到系统搭建,全面理解智能体的运行机制。

    Temperature与Top-p有什么区别?大模型采样参数解析
    Temperature与Top-p有什么区别?大模型采样参数解析

    深入解析大模型中 Temperature 和 Top-p 参数的区别。通过 Softmax 计算和累计概率示例,说明温度如何影响概率分布形状,Top-p 如何筛选候选词集合,帮助理解模型生成机制。

    Token与Tokenizer是什么?分词、BPE与上下文长度
    Token与Tokenizer是什么?分词、BPE与上下文长度

    深入解析大模型中的Token与Tokenizer工作机制,通过BPE分词示例说明文字如何转化为数字编号,澄清上下文长度与字数的区别,帮助用户准确评估模型处理长文本的实际能力。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。