网易易盾发布三层 AI 安全架构,CMA 将审核时间缩至 12.3 分钟

NTES-0.40%

关键要点

  • 网易易盾于2026年11月3日在乌镇世界互联网大会发布AI原生安全产品体系,涵盖AI内容数据安全、交互身份安全及AI智能体安全三层架构。
  • 根据易盾数据,CMA审核代理将客户的平均审核时间从35.7分钟缩短至12.3分钟,准确率达99.2%。
  • DeepGuard人脸防欺骗技术在屏幕攻击测试中的召回率达99%,代理安全平台可自动扫描MCP供应链并检测影子AI。

据新浪科技与 IT 之家报道,网易企业服务旗下的内容与风险控制安全部门网易易盾于 11 月 3 日在乌镇世界互联网大会上发布「AI 原生安全产品系统」,并获展览首发厅颁发首发认证。易盾指出,随着 AI 代理可访问知识库、业务工具和企业系统,安全防护重点必须从控制 AI 言论转向控制其行为。

网易易盾发布 AI 原生安全系统,安全重心从控制 AI 言论转向控制行为

网易企业服务事业部副总经理朱浩奇在 2026 年乌镇世界互联网大会上提出双管齐下框架:一方面利用 AI 加强安全工作,另一方面利用安全工具限制 AI 的运作范围。他指出,目前的风险包括 AI 生成内容、深度伪造、自动化诈骗、模型越狱、敏感数据外泄,以及代理执行超出其权限的操作。

易盾认为,随着 AI 代理能够访问知识库、业务工具和企业系统,安全防护的重点必须从控制 AI 的言论转向控制其行为。

三层安全架构:AI 内容与数据安全、互动身份安全,以及模型与代理安全

据网易易盾说明,AI 原生安全产品系统涵盖三个安全防护层:

第一层(AI 内容与数据安全):AI 内容审核与分析、CMA 审核代理(自主运行的内容审核系统)

第二层(互动与身份安全):业务风控、设备指纹识别、行为验证码、DeepGuard 人脸防欺骗技术

第三层(模型与代理安全):大型模型防护机制、代理安全平台、代理供应链检查

展览首发厅已为该系统颁发首发认证。

代理安全平台扫描 MCP 供应链、检测影子 AI

据易盾说明,代理安全防护机制在模型输入和输出层面进行筛选,代理防护功能则会检查代理程序的操作是否符合用户意图,强制执行权限,标记风险工具调用,并阻止异常行为。

代理安全平台可发现正在使用的 AI 资产、扫描技能和 MCP 供应链,并防止敏感数据外泄;针对影子 AI(员工在 IT 部门不知情下使用的工具),提供阻止、审查、告警和数据脱敏等选项。

易盾内容安全负责人饶晓燕在另一论坛指出,恶意指令可以隐藏在网页、文件、API、工具或 MCP 响应中,系统必须区分任务数据和行为指令;防护措施在模型调用和上下文组装前设置,并在输出流中进行检查(显示合格内容、审查可疑内容、撤回高风险内容)。

CMA 将客户审核时间缩至 12.3 分钟,DeepGuard 对屏幕攻击召回率 99%

据易盾说明,CMA 审核代理结合自主研发的内容安全模型与专门小型模型,全天候运行。在某客户每月处理超过 250 万件投诉的案例中,CMA 初步审核加上人工检查,将平均审核时间从 35.7 分钟缩短至 12.3 分钟,准确率达 99.2%。

DeepGuard 人脸防欺骗技术不仅检测已知的伪造痕迹,还检测不可信的内容;在中国信息通信研究院的人脸防欺骗评估中获得最高评级,在阶段性测试中对屏幕重录攻击展现了 99% 的召回率和 96% 的精确率。

常见问题

网易易盾的 AI 原生安全系统在哪里发布?

据报道,网易易盾于 2026 年 11 月 3 日在乌镇举行的世界互联网大会暨互联网之光博览会上发布 AI 原生安全产品系统,并获展览首发厅颁发首发认证。

易盾三层安全架构涵盖哪些产品?

据易盾说明,三层分别为:第一层(AI 内容与数据安全)含 CMA 审核代理;第二层(互动与身份安全)含 DeepGuard 人脸防欺骗;第三层(模型与代理安全)含代理安全平台和 MCP 供应链扫描。

CMA 审核代理的实际效能数据如何?

据易盾说明,在某客户每月超过 250 万件投诉的案例中,CMA 初步审核加人工检查,将平均审核时间从 35.7 分钟缩至 12.3 分钟,准确率达 99.2%。

影子 AI 指的是什么,易盾如何应对?

据易盾说明,影子 AI 是指员工在 IT 部门不知情的情况下使用的 AI 工具;代理安全平台可自动发现正在使用的 AI 资产并扫描 MCP 供应链,提供阻止、审查、告警和数据脱敏等应对选项。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论