据新浪科技与 IT 之家报道,网易企业服务旗下的内容与风险控制安全部门网易易盾于 11 月 3 日在乌镇世界互联网大会上发布「AI 原生安全产品系统」,并获展览首发厅颁发首发认证。易盾指出,随着 AI 代理可访问知识库、业务工具和企业系统,安全防护重点必须从控制 AI 言论转向控制其行为。
网易易盾发布 AI 原生安全系统,安全重心从控制 AI 言论转向控制行为
网易企业服务事业部副总经理朱浩奇在 2026 年乌镇世界互联网大会上提出双管齐下框架:一方面利用 AI 加强安全工作,另一方面利用安全工具限制 AI 的运作范围。他指出,目前的风险包括 AI 生成内容、深度伪造、自动化诈骗、模型越狱、敏感数据外泄,以及代理执行超出其权限的操作。
易盾认为,随着 AI 代理能够访问知识库、业务工具和企业系统,安全防护的重点必须从控制 AI 的言论转向控制其行为。
三层安全架构:AI 内容与数据安全、互动身份安全,以及模型与代理安全
据网易易盾说明,AI 原生安全产品系统涵盖三个安全防护层:
第一层(AI 内容与数据安全):AI 内容审核与分析、CMA 审核代理(自主运行的内容审核系统)
第二层(互动与身份安全):业务风控、设备指纹识别、行为验证码、DeepGuard 人脸防欺骗技术
第三层(模型与代理安全):大型模型防护机制、代理安全平台、代理供应链检查
展览首发厅已为该系统颁发首发认证。
代理安全平台扫描 MCP 供应链、检测影子 AI
据易盾说明,代理安全防护机制在模型输入和输出层面进行筛选,代理防护功能则会检查代理程序的操作是否符合用户意图,强制执行权限,标记风险工具调用,并阻止异常行为。
代理安全平台可发现正在使用的 AI 资产、扫描技能和 MCP 供应链,并防止敏感数据外泄;针对影子 AI(员工在 IT 部门不知情下使用的工具),提供阻止、审查、告警和数据脱敏等选项。
易盾内容安全负责人饶晓燕在另一论坛指出,恶意指令可以隐藏在网页、文件、API、工具或 MCP 响应中,系统必须区分任务数据和行为指令;防护措施在模型调用和上下文组装前设置,并在输出流中进行检查(显示合格内容、审查可疑内容、撤回高风险内容)。
CMA 将客户审核时间缩至 12.3 分钟,DeepGuard 对屏幕攻击召回率 99%
据易盾说明,CMA 审核代理结合自主研发的内容安全模型与专门小型模型,全天候运行。在某客户每月处理超过 250 万件投诉的案例中,CMA 初步审核加上人工检查,将平均审核时间从 35.7 分钟缩短至 12.3 分钟,准确率达 99.2%。
DeepGuard 人脸防欺骗技术不仅检测已知的伪造痕迹,还检测不可信的内容;在中国信息通信研究院的人脸防欺骗评估中获得最高评级,在阶段性测试中对屏幕重录攻击展现了 99% 的召回率和 96% 的精确率。
常见问题
网易易盾的 AI 原生安全系统在哪里发布?
据报道,网易易盾于 2026 年 11 月 3 日在乌镇举行的世界互联网大会暨互联网之光博览会上发布 AI 原生安全产品系统,并获展览首发厅颁发首发认证。
易盾三层安全架构涵盖哪些产品?
据易盾说明,三层分别为:第一层(AI 内容与数据安全)含 CMA 审核代理;第二层(互动与身份安全)含 DeepGuard 人脸防欺骗;第三层(模型与代理安全)含代理安全平台和 MCP 供应链扫描。
CMA 审核代理的实际效能数据如何?
据易盾说明,在某客户每月超过 250 万件投诉的案例中,CMA 初步审核加人工检查,将平均审核时间从 35.7 分钟缩至 12.3 分钟,准确率达 99.2%。
影子 AI 指的是什么,易盾如何应对?
据易盾说明,影子 AI 是指员工在 IT 部门不知情的情况下使用的 AI 工具;代理安全平台可自动发现正在使用的 AI 资产并扫描 MCP 供应链,提供阻止、审查、告警和数据脱敏等应对选项。