据 2 月发表的一项研究,来自 ETH Zurich、MATS 和 Anthropic 的研究人员构建了一条 AI 流水线,能够以 90% 的精确率,将经过匿名化处理的 Hacker News 账户与真实的 LinkedIn 个人资料匹配起来。该攻击依靠网页搜索、嵌入和 GPT-5.2 等推理模型运行,每个目标的成本约为 1 至 4 美元,而且不涉及黑客攻击或数据泄露。题为《利用 LLM 进行大规模在线去匿名化》的论文证明,大型语言模型仅通过阅读、搜索和推理,就能分析匿名帖子并识别现实世界中的身份。论文作者没有公开代码、提示词或他们发现的任何真实身份;该研究在发表前也通过了 ETH Zurich 伦理审查委员会的审查。论文称,这些发现表明,“保护在线假名用户的‘实际隐匿性’已不再成立,在线隐私的威胁模型需要重新审视”。
研究人员将 AI 去匿名化拆分为四步流程
研究人员将这次攻击拆分为四个步骤,分别称为提取、搜索、推理和校准。提取是指将某人的帖子输入 AI,让它总结这个人的情况,包括他们可能居住的地方、职业、爱好,甚至英国式拼写或偶然提到的狗的名字等特征。搜索则将这份总结转换为嵌入向量,也就是一串计算机可以用来在数千名候选者中即时查找相似资料的数字。推理阶段会由更强大的模型查看匹配度最高的几个结果,并分析其中哪一个确实符合,通过交叉核对细节来进行判断,就像人类调查人员那样,只是速度快得多。校准则让 AI 评估自己的置信度,因此只有在相当确定时才会进行猜测,否则就保持沉默。
AI 在测试中正确识别出 338 名 Hacker News 用户中的 226 人
在一项测试中,研究团队收集了 338 名主要使用假名的 Hacker News 论坛用户,这些用户曾在个人简介中链接到自己的 LinkedIn 个人资料。研究人员删除了所有可识别信息,然后要求一个 AI Agent 仅凭网页搜索找出他们的真实身份。AI 正确识别出其中 226 人,占 67%;在它实际做出的猜测中,大约每 10 个有 1 个是错误的。在另一项针对 Anthropic 自身对 125 名科学家开展的访谈研究记录的测试中,AI 仅凭这些人描述工作的方式,就正确识别出了至少 9 人。论文称,运行一次此类搜索的 AI 订阅费用在 1 至 4 美元之间。该方法不需要数据泄露、黑客攻击或内部人员权限,而是使用普通聊天机器人内置的相同网页搜索和摘要能力。
研究显示候选者规模扩大后成功率下降
论文中听起来最令人担忧的数字存在一个前提。为了衡量成功率,研究人员需要知道受试者的真实身份,因此他们选择了已经链接到 LinkedIn 的账户,或者将某个人自己的发帖历史分成两半,并隐藏两者之间的联系。这是一种受控的理想情况,并不能证明如今任何随机的假名账户都能被破解。候选者规模也会削弱研究中最令人担忧的数字。可能候选者组成的“干草堆”越大,找到其中“针”的难度就越高。面对由 89,000 名候选者组成的候选池,即使是最强的 AI 方法,在 90% 的精确率下也只能找到大约一半的正确匹配。精确率指其猜测有多大比例是正确的,召回率则指它实际找到了多少真实匹配。
Anthropic 研究人员参与了通过伦理审查的研究
这项研究由 ETH Zurich 和 AI 安全组织 MATS 的研究人员开展,Anthropic 公司的研究人员 Nicholas Carlini 也参与其中;Anthropic 是 Claude 背后的公司。研究人员没有公开他们的工具、提示词或发现的任何真实姓名,该研究在发布前也经过了伦理审查委员会的审查。这项披露发布于 Anthropic 披露几个月后:Anthropic 称,有国家支持的黑客利用 Claude,独立实施了一场网络间谍活动的大部分行动。对于那些因为参与社会运动、遭受虐待、性取向、移民身份,或从事不欢迎公开表达观点的工作,而使用假名发帖的人来说,这些发现表明,多年来散落在旧评论中的家乡、雇主甚至宠物名字,最终会汇总成一枚身份指纹。
常见问题
研究人员使用什么方法将匿名账户与真实身份匹配起来?
研究人员使用了一条名为提取、搜索、推理和校准的四步 AI 流水线。该系统将某人的帖子输入 AI,让其总结这个人的情况;再将这份总结转换为嵌入向量,以查找相似的个人资料;然后使用更强大的模型交叉核对细节,并让 AI 在做出猜测前评估自己的置信度。
运行一次此类 AI 去匿名化搜索需要多少费用?
论文称,运行一次此类搜索的 AI 订阅费用在 1 至 4 美元之间。该方法使用网页搜索、嵌入和 GPT-5.2 等推理模型,不需要黑客攻击或数据泄露。
研究测试中的成功率是多少?
在对 338 名曾链接 LinkedIn 个人资料的 Hacker News 用户进行的测试中,AI 正确识别出其中 226 人(67%);在它做出的猜测中,大约每 10 个有 1 个是错误的。面对由 89,000 名候选者组成的更大候选池,即使是最强的 AI 方法,在 90% 的精确率下也只能找到大约一半的正确匹配。