征求意见：明确五类安全风险的生成式AI安全指导性文件

从现在开始，努力学习吧！本文《征求意见：明确五类安全风险的生成式AI安全指导性文件》主要讲解了等等相关知识点，我会在golang学习网中持续更新相关的系列文章，欢迎大家关注并积极留言建议。下面就先一起来看一下本篇正文内容吧，希望能帮到你！

中新经纬10月12日电 据全国信息安全标准化技术委员会网站消息，日前，全国信息安全标准化技术委员会秘书处发布《生成式人工智能服务安全基本要求(征求意见稿)》(以下简称《基本要求》)。

《基本要求》给出了生成式人工智能服务在安全方面的基本要求，包括语料安全、模型安全、安全措施、安全评估等，适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平，或是提供者自行或委托第三方开展安全评估，也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。

《基本要求》明确，生成式人工智能服务是基于数据、算法、模型、规则，能够根据使用者提示生成文本、图片、音频、视频等内容的人工智能服务。

来源：全国信息安全标准化技术委员会网站

在语料内容安全方面，基本要求提出了三个主要内容：

需要进行重新改写的内容是：在训练语料内容过滤方面，应该采用关键词、分类模型和人工抽检等方法，全面过滤所有语料中的违法不良信息

需要进行改写的内容是：其次，在知识产权方面，应该设立负责语料和生成内容的知识产权专员，并制定相应的知识产权管理策略。在进行语料训练之前，知识产权专员应该对语料中的知识产权侵权情况进行识别，并确保提供的语料没有侵权问题

在个人信息方面的重写内容如下：在使用包含个人信息的语料时，必须获得对应个人信息主体的授权同意，或者符合其他合法使用该个人信息的条件等

在安全措施要求方面，《基本要求》明确提出了针对服务适用于未成年人的特殊要求。这些要求包括允许监护人设定未成年人的防沉迷措施，并通过密码保护来实施；限制未成年人每日对话的次数和时长，如果超过限制，则需要输入管理密码；未成年人进行消费前需要经过监护人的确认；还需要过滤掉不适合未成年人的内容，只展示对身心健康有益的内容。对于不适用于未成年人的服务，应采取技术或管理措施来防止未成年人的使用

今天关于《征求意见：明确五类安全风险的生成式AI安全指导性文件》的内容介绍就到此结束，如果有什么疑问或者建议，可以在golang学习网公众号下多多回复交流；文中若有不正之处，也希望回复留言以告知！