权威榜单 | 网易易盾入选中国信通院生成式 AI 技术和应用优秀案例

怎么入门科技周边编程？需要学习哪些知识点？这是新手们刚接触编程时常见的问题；下面golang学习网就来给大家整理分享一些知识点，希望能够给初学者一些帮助。本篇文章就来介绍《权威榜单 | 网易易盾入选中国信通院生成式 AI 技术和应用优秀案例》，涉及到，有需要的可以收藏一下

我们将进一步整理和研究生成式人工智能技术、应用和产业发展现状，总结和推广卓越成果，以促进产业高质量发展。2023 年 2 月，中国信息通信研究院（以下简称“中国信通院”）依托人工智能关键技术和应用评测工业和信息化部重点实验室 AI 工程化推进委员会生成式 AI 工作组，正式启动了生成式 AI 技术和应用案例征集工作。5 月 31 日下午，杭州通用人工智能论坛大模型技术应用分论坛现场，首轮生成式 AI 技术和应用优秀案例评选结果正式发布，网易智企旗下网易易盾成功入选优秀案例，并获中国信通院颁发证书。

一、内容风控仍是互联网安全重中之重

近年来，随着互联网的飞速发展，网络数据呈现井喷式增长。多样化的内容呈现方式，如文本、图像、语音、视频等，已经成为人们日常工作和生活中不可或缺的组成部分。内容形式多元化、内容创作门槛大幅降低为我们的生活带来了极大的便捷和效率，但由此引发的内容风控问题却日益凸显，数字内容安全已经成为互联网安全的重中之重。

二、传统内容风控面临新挑战

数字内容的风险控制具有广泛的涉及范围和类型，高度细化的粒度，频繁的对抗以及多种需求和标准的特点。过去，在数字内容的风险控制方面，通常采用“后置+定制+感知”的方法来识别和防范。

· 后置是指在有害类型或者数据出现后，再针对性的进行解决，时效性上往 往是后置，没有太明确的风险提前感知与防范能力。

· 定制是指有害信息类型与范围广泛，由于缺少可靠的通用能力，需要对不同的有害类型进行不断地模型定制训练，且每次定制都需从头构建专业领域能力，时间长、成本高。

· 感知是指对有害信息的识别往往是针对性感知，只针对目标的有害类型，没有很好地利用场景内容信息，即过往内容风控是感知层面识别，而非认知层面推理。

·同时，对于有害类型的定义往往存在很多主观、边界、细节上的差异，频繁 地根据标准的多样更替适配模型，无法真正做到差异化分级分层精准防护。

因此，如何提前感知与预防可能的安全风险、如何针对新出现的危害类型快速构建安全防护能力、如何全面综合场景信息进行深入认知推理、如何差异化分级分层精准防护，已经成为数字内容安全重要的挑战与难点。

三、AIGC 为内容风控带来新思路

AIGC的发展使得提供更通用、前置且快速响应数字内容风险控制变得可能。通过注入“全球知识”，AIGC将具备更为广泛的通用能力、创造能力、数据感知和知识融合能力。具体来说：

· 基于其通用能力，在此基础之上进一步定制领域安全能力，内容风控的时间周期与成本将大幅缩减；

· 基于其创造能力，内容风控将提前感知与预防未知风险，将”后置”转变为”前置”，减少了未知有害类型的隐患；

· 基于其丰富的信息注入与融合能力，充分利用并融合场景、背景、知识等有害类型以外的综合信息，将提升内容风控的场景理解与知识迁移能力，进行更深层次认知逻辑推理与综合防控；

· 基于其提示上下文学习范式以及思维推理过程，内容风控将在不更新模型的基础上更加便捷的适应不同的标准，差异化分级分层精准防控。

四、网易易盾：生成式 AI 技术赋能内容风控

基于上述思路，网易易盾利用生成式 AI 技术，研发了基于 AIGC 生成对抗防控、小样本有害信息识别、细粒度自适应识别、综合信息逻辑推理等方案，用最强的矛打造最强的盾。具体如下：

（1）基于AIGC生成对抗防控方案

为了实现安全风险提前感知与预防，基于 AIGC 创造能力，网易易盾研发了基于 AIGC 生成对抗防控方案，将原有的“发现+布控”改进为“发现+生成+布控”。该方案将生成当前模型无法覆盖或者识别效果差的有害类型与样本，并以当前主流的安全风险类型为基础，进一步通过 AIGC 方法模拟安全风险变化趋势，实现安全风险提前感知。进一步的布控方法包括结合 AIGC 生成样本进行联合训练迭代防控模型、构建 AIGC 生成对抗库定点防控等。

（2）基于AIGC小样本有害信息识别方案

为了实现数字风控能力高效快速构建，基于 AIGC 的通用能力进一步的研发专业领域能力，我们研发了基于 AIGC 小样本有害信息识别方案。将原有的从头构建“通用能力+领域能力”方案改善为“AIGC 通用能力+通用能力补偿+领域能力”构建的步骤。通过小样本通用能力补偿模块设计，以少量样本的代价弥补了 AIGC 通用能力在专业场景应用的差距，同时直接链接到领域能力构建模块。"使用'AIGC 通用能力+通用能力补偿'的方法比从头开始构建通用能力更快、更高效、成本更低。"。

（3）基于 AIGC 细粒度自适应识别方案

为了实现差异化分级分层精准防控，基于 AIGC 提示上下文学习范式以及思维推理能力，我们研发了基于 AIGC 细粒度自适应识别方案，将 AIGC 的提示学习的思想应用到有害内容理解解决方案中，并且通过探索将多模态提示与推理输入与不同标准进行对齐，使得通过不同的提示与推理输入来映射不同的标准。例如性感这个类型，以往很难再做更细粒度的拆解，或者拆解成本很高，现在可以更细粒度的拆解为比如沙滩场景的性感与夜店场景的性感，从而将类型标准细化为场景与样本，更好的适应不同主观性、不同边界的标准，更细粒度地实现分级分层精准防控。

（4）基于 AIGC 综合信息逻辑推理解决方案

为了实现认知逻辑推理与综合防控，基于 AIGC 的信息注入与融合以及逻辑推理能力，我们研发了基于 AIGC 综合信息逻辑推理解决方案。将原来只针对有害信息的感知识别升级为基于包含所有信息（包括有害信息）的综合认知推理。综合信息除了有害信息以外，可以通过使用AIGC方法进行获取，利用视觉语言模型来完成综合推理。将原有的基于“领域能力的有害信息提取+决策”的方案改进为基于“领域能力有害信息提取+基于 AIGC 的通用知识提取+基于视觉语言模型的信息融合与综合逻辑决策”的方案。

五、生成式 AI 为内容风控带来显著收益

在数字内容风控场景，网易易盾研发并融合生成式 AI 能力，实现领域安全能力高效快速构建、安全风险提前感知与预防、认知推理与综合防控、差异化分级分层精准防控。相关解决方案的推出，帮助易盾从能力、数据、信息三个层面全面耦合了 AIGC 能力，并在客户实际应用的数字内容风控场景下，取得效果、成本、时效性、多样性、适应性、稳定性等方面的显著收益。

到这里，我们也就讲完了《权威榜单 | 网易易盾入选中国信通院生成式 AI 技术和应用优秀案例》的内容了。个人认为，基础知识的学习和巩固，是为了更好的将其运用到项目中，欢迎关注golang学习网公众号，带你了解更多关于的知识点！