Chris Churchman 是高盛合伙人,负责领导该行面向机构客户的 Marquee 数字平台。他警告称,人工智能在华尔街的广泛采用可能导致下一代金融从业者出现认知能力萎缩。Churchman 表示,银行家将推理工作外包给 AI 模型存在巨大风险,可能导致他们丧失从第一性原理进行推理的能力。据 CNBC 获得的文字记录,这些评论出现在高盛的 Exchanges 播客中,正值华尔街更广泛地推动将 AI 整合到交易和银行业务流程之际。
Churchman 警告 AI 可能削弱银行家的分析能力
Churchman 将这一风险比作现代发明导致人们失去导航和记忆技能的情况。“这里存在一个巨大风险:在 AI 时代,我们把推理外包给这些模型,导致认知能力萎缩,使我们自己无法再从第一性原理进行推理,”Churchman 说。他强调推理仍然很重要,并对将这一认知功能委托给算法表示担忧。“推理仍然很重要。你仍然需要对 [problems] 进行推理,并将其组织成一个论点,而现在我们正在委托推理工作,”他说。
这位高盛合伙人此前曾在加入高盛前负责瑞银的外汇交易业务,并于 2021 年加入高盛。他指出,AI 处理日常工作可能会减少对初级银行家的需求。CNBC 去年报道称,华尔街公司正在研究利用 AI 降低初级银行家与高级员工比例的方法。
高盛面临维护学徒文化的挑战
Churchman 表示,银行需要在使用 AI 与维护华尔街的学徒文化之间找到平衡。“你通过实践学习,而很多知识是隐性的,从未被记录下来,”他说。他担任高盛全公司银行与市场部门 AI 工作组的联合主席。
Churchman 说,高盛需要“确保我们不会失去如今一些最优秀员工所掌握的隐性且直觉性的知识 [and],从而确保下一代也能掌握这些知识”。他举例说,初级交易员会在经验丰富的风险承担者监督下处理客户的报价请求,从而通过实践学习。“我们当然完全可以将其自动化,但这样一来,我们还能培养出真正完全理解这些工作的高级交易员吗?”他问道。
Churchman 表示,系统的设计必须确保员工在高风险、高不确定性的决策中仍然掌握最终决策权,而不是变成被动的操作员。他承认,即便是高盛也尚未“想明白”将如何管理公司已经开启的转型。
Marquee 平台在 AI 准确性要求方面面临困难
Churchman 分享了将 AI 实施到 Marquee 中的经验。该平台供对冲基金及其他机构客户访问高盛的市场数据、研究、风险分析和交易执行服务。他表示,目前 Marquee AI 平台仅供高盛员工使用。
Churchman 表示,从技术角度来看,最大的挑战是确保 AI 的回答 100% 事实准确并且可以审计。虽然面向消费者的 AI 聊天机器人会提醒用户可能存在错误,但在高端金融领域,对错误的容忍度很低。
Churchman 表示,在为公司客户开发 AI 平台时,该软件做出了一个令人震惊的承认。“当我们对它进行严厉质询时,至少它是诚实的,”Churchman 说。“它的意思是,‘听着,归根结底,我更擅长让自己听起来很全面,而不是真正做到全面。’”
常见问题
Chris Churchman 警告了在银行业使用 AI 的哪些风险?
负责领导 Marquee 平台的高盛合伙人 Chris Churchman 警告称,华尔街采用 AI 可能会让银行家把推理工作外包给模型,从而导致认知能力萎缩,并可能使他们无法再自己从第一性原理进行推理。
据 Churchman 称,高盛为何需要维护学徒文化?
Churchman 表示,银行业的大量知识是隐性的,从未被记录下来,而是通过实践学习获得的。即使 AI 将初级交易员处理客户报价请求等日常任务自动化,高盛仍需确保经验丰富的专业人士所掌握的这些直觉性知识能够传承给下一代。
高盛的 Marquee 平台在实施 AI 方面面临什么挑战?
据 Churchman 称,最大的技术挑战是确保 AI 的回答 100% 事实准确并且可以审计。与能够提醒用户可能出错的消费者聊天机器人不同,高端金融领域对错误的容忍度很低。AI 软件本身承认,它“更擅长让自己听起来很全面,而不是真正做到全面”。