据德勤韩国于 10 月 6 日发布的报告,AI Agent 在金融服务领域能否取得成功,并不取决于其能够自动化多少常规工作,而取决于其在处理 AI 难以应对的异常情况时是否安全、高效。该公司强调,必须设计复杂的控制系统,以确定 AI 何时应停止决策,以及涉及大额交易、数据冲突和异常情况的事项应转交哪些人员处理。
德勤强调了金融领域 AI Agent 设计中的四项关键控制机制:权限控制(定义 AI 的执行边界)、决策控制(确定何时需要人工干预)、审计控制(记录决策依据)和异常控制(将异常转交给适当人员)。包括澳大利亚安联 Project Nemo 和摩根大通 CIB 支付部门在内的全网案例表明,要有效实施 AI,必须设计出能够让人类无缝接收并解决 AI 转交异常情况的系统。摩根大通 CIB 支付部门将需人工处理的异常案例减少了 50% 以上,同时将处理时间缩短了约 75%。