OCC 首次发布应对银行业外部智能体风险的 AI 框架

MS+0.77%
BAC+0.95%

关键要点

  • OCC 发布了首个针对银行业的 AI 监管框架,优先关注 AI 出错造成的后果,而非系统的复杂程度,并应对外部代理带来的风险。
  • OCC 框架建议采取防护措施,包括身份认证、交易限额、监控以及针对外部 AI Agent 的紧急停用机制。
  • 该指导意见对银行仍不具约束力,并将 AI 纳入现有的运营、合规和网络安全风险类别中进行评估。

美国货币监理署今天发布了首份银行业人工智能监管框架,指示审查人员优先关注 AI 错误造成的后果,而非系统的复杂程度。该框架明确涉及由客户、金融科技公司或其他企业运营的外部 AI Agent,这呼应了此前多家大型银行发现未经授权的第三方 AI Agent 在客户账户中运行后引发的担忧。不到两周前,Axios 于 10 月 22 日报道称,摩根士丹利正阻止外部 Agent,而摩根大通、美国银行和花旗则在限制访问;银行高管称这一情况“令人恐惧”。

OCC 框架应对外部 AI Agent 风险

OCC 长达 22 页的框架警告称,即使银行无法控制由客户、金融科技公司或其他企业运营的外部 Agent,这些 Agent 仍可能给银行带来风险。在涉及运营韧性的部分,该机构建议审查人员考虑身份认证、委派权限、交易限额、监控,以及暂停或撤销访问权限的能力等措施。

该指南探讨了一个两难问题:如何让客户使用 AI 助手管理财务,同时又不让自主软件不受限制地访问账户。针对风险较高的系统,建议采取的防护措施包括熔断机制、速率限制、权限限制和紧急关闭控制。

框架优先关注后果,而非 AI 复杂程度

OCC 的框架区分了 AI 系统的技术复杂程度与其可能造成的损害。监管机构表示,获准发起金融交易的简单 Agent,可能比仅限于撰写内部文件的更先进模型风险更高。

根据该框架,审查人员可以考虑故障造成的后果、相关操作是否可撤销,以及人类对系统保留了多少控制权。该机构列出了四个示例性风险等级。完全自主的支付 Agent 和实时信贷决策系统属于最高风险类别,而基础的内部生产力工具则处于最低风险类别。

该框架涵盖用于支付、欺诈检测、客户服务及其他银行业务的 AI。其风险考量也延伸至通过银行渠道接入的外部 AI Agent。

OCC 指南对银行仍不具约束力

OCC 强调,该文件不会为银行设立新的监管要求或可强制执行的标准。相反,它为审查人员提供了一种在现有运营、合规和网络安全风险类别下评估 AI 的方法。银行无需另设单独的 AI 风险类别。

该文件使用了“超级智能”一词。唐纳德·特朗普政府坚持用它取代“人工智能”,但该文件的适用范围涵盖常规 AI 和“自主 Agent”,而不只是那些假设中智能水平超越人类能力的系统。

OCC 表示,随着技术发展,该机构计划更新指南。目前,其示例性风险等级将自主支付 Agent 列为最高风险类别,无论它们在测试中的表现如何。

常见问题

OCC 今天发布了什么有关银行业 AI 的文件?

OCC 今天发布了首份银行业人工智能监管框架,重点关注 AI 错误造成的后果以及系统的自主性,而非系统的技术复杂程度。该框架涉及由客户、金融科技公司或其他企业运营的外部 AI Agent,并建议采取身份认证、交易限额、监控以及暂停或撤销访问权限等防护措施。

OCC 为什么在框架中涉及外部 AI Agent?

此前,Axios 于 10 月 22 日报道称,包括摩根士丹利、摩根大通、美国银行和花旗在内的大型银行,正在阻止或限制未经授权、在客户账户中运行的第三方 AI Agent。银行高管称这一情况“令人恐惧”,引发了人们对如何控制可访问客户资金的自主 Agent 的疑问,因此该框架对此作出了回应。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论