国家网信办出台AI生成内容标识新规

为规范人工智能生成内容，维护网络生态安全，国家网信办等部门联合发布《人工智能生成合成内容标识办法》，将于9月1日起施行。该办法要求对AI生成内容进行显式和隐式双重标识，涵盖文本、图像、音频、视频等多种形式，并对服务提供者和内容传播平台提出明确要求，实现全链条监管。此举借鉴国际惯例，通过“办法+强标”的组合拳，完善我国人工智能算法治理体系，促进AI技术健康发展，标志着我国人工智能安全治理进入新阶段。 这将有效应对AI生成内容带来的虚假信息传播等问题，降低人工智能滥用风险。

为规范人工智能生成内容，国家网信办等多部门联合发布了《人工智能生成合成内容标识办法》（简称《标识办法》），并将于9月1日起正式施行。《标识办法》旨在应对生成式AI技术带来的信息真伪辨别难题，维护网络生态安全。

生成式人工智能和深度合成技术快速发展，为内容创作带来便利，但也引发了虚假信息传播等问题。《标识办法》通过强制性标识机制，提醒用户谨慎辨别信息真伪，并明确相关机构的责任义务，规范内容制作和传播流程。此举旨在降低人工智能滥用风险，促进人工智能技术健康发展，推动其在文本对话、内容创作等领域的应用。

显隐标识双管齐下

国际上，许多国家已将人工智能生成内容标识列为监管重点。欧盟、美国和英国等都出台了相关法律法规，要求对AI生成内容进行水印或标识。《标识办法》延续了这一国际惯例，明确了显式标识和隐式标识两种形式。显式标识指用户可见的文字、声音或图形标识；隐式标识则指隐藏在文件数据中的技术标识。

《标识办法》规定，符合特定条件的生成合成服务提供者必须添加显式标识；所有服务提供者都需在文件元数据中添加隐式标识；内容传播平台也需采取技术手段规范生成合成内容的传播。

国家计算机网络应急技术处理协调中心正高级工程师张震指出，《标识办法》完善了我国人工智能算法治理体系，有效应对日益增长的AI生成内容。

全链条监管，构建安全生态

《标识办法》对互联网应用分发平台也提出了要求，在应用上架审核时，需确认服务提供者是否提供人工智能生成合成服务。

《标识办法》涵盖了文本、图像、音频、视频等多种内容形式，并创新性地将内容传播平台纳入监管范围，实现了从内容生成到传播的全链条监管。

同步实施的国家标准《网络安全技术 人工智能生成合成内容标识方法》将进一步指导相关机构规范标识行为。这种“办法+强标”的组合拳，构建了管理、监管、技术三位一体的治理架构，为人工智能安全治理提供了清晰的实施路径，标志着我国人工智能安全治理进入新的阶段。

今天关于《国家网信办出台AI生成内容标识新规》的内容就介绍到这里了，是不是学起来一目了然！想要了解更多关于人工智能生成内容,标识办法,全链条监管,显式标识,隐式标识的内容请关注golang学习网公众号！