来自印度 Amrita Vishwa Vidyapeetham、Foscari University of Venice、墨尔本大学以及 Ben Gurion University of the Negev 的研究人员开展了一项研究,将 AI 聊天机器人与人类诈骗犯在模拟“猪肉分割”(pig butchering)诈骗场景中的表现进行对比。该实验测试 AI 是否能够在涉及虚假加密货币投资的骗局中,自动与受害者建立信任。猪肉分割诈骗目前通过从文字型“爱情骗局”转向虚假投资招揽的方式,每年在全球窃取数十亿美元。
四所大学在诈骗模拟中测试 AI 对比人类
研究人员设计了一项实验,让 AI 聊天机器人直接与人类展开对抗,模拟那些在向诈骗目标招揽虚假投资之前的建立信任对话。该研究聚焦于猪肉分割诈骗,这是一种包含文字型爱情诈骗、最终转向以虚假加密货币投资为诱饵的诈骗形式,可能从受害者那里骗走最高达六位数金额的款项。实验特别测试诈骗中用来建立关系的阶段,而在真实场景中,这一阶段通常是受害者互动中持续时间最长的部分,往往会延续数月。
AI 聊天机器人在为期一周的实验中达到 50% 的配合率
该研究招募了 22 名测试对象,让他们在一周内充当不知情的“受害者”。对话结束后,聊天机器人和人类诈骗犯都要求受害者下载某个应用或参与一款在线游戏,用作衡量受害者是否愿意满足请求的替代指标。与 AI 聊天机器人互动时,几乎一半的测试对象满足了请求;当与人类诈骗犯交流时,少于五分之一的受试者遵从。
测试对象在信任评分上给予 AI 聊天机器人更高评价
测试对象在实验过程中,对他们与之聊天的每一个“人”评估自己的信任程度。测试对象给予 AI 机器人的信任评分显著高于给予人类诈骗犯的评分。AI 聊天机器人成功扮演了人类的身份,在某些衡量标准下,它在实验的建立关系阶段中甚至表现优于真实的人类“诈骗犯”。
常见问题
哪些大学进行了 AI 诈骗研究?
来自印度 Amrita Vishwa Vidyapeetham、Foscari University of Venice、墨尔本大学以及 Ben Gurion University of the Negev 的研究人员开展了这项研究,对比 AI 聊天机器人与人类诈骗犯在猪肉分割诈骗模拟中的表现。
实验中 AI 与人类诈骗犯的配合率分别是多少?
在为期一周的对话之后,22 名测试对象中,近一半的人在与 AI 聊天机器人互动时会满足其下载应用或参与在线游戏的请求;而在与人类诈骗犯互动时,满足同类请求的人数少于五分之一。