据该公司第二季度 10-Q 文件,亚马逊持有 Anthropic 价值 19 亿美元的股权。Anthropic 是一家人工智能公司,部分资金由 FTX 的山姆·班克曼-弗里德提供。班克曼-弗里德于 2022 年 4 月使用 FTX 客户资金向 Anthropic 投资了 5 亿美元,还资助了一个后来成为模型评估与威胁研究组织(METR)的实体。METR 是一家人工智能安全评估机构,与有效利他主义运动有直接联系。METR 为亚马逊和 Anthropic 的人工智能模型提供安全评估,于 2022 年 7 月从班克曼-弗里德的 FTX 基金会获得了 125 万美元,这发生在 FTX 穿仓前四个月。这些投资关系凸显了亚马逊对历史上与暴雷的加密货币交易所及有效利他主义网络有关联的实体所面临的财务风险。
亚马逊披露持有 Anthropic 19 亿美元股权
亚马逊的第二季度 10-Q 文件披露,该公司持有价值约 9.8 亿美元的 Anthropic 可转换票据,以及约 9.2 亿美元的无投票权优先股。总计 19 亿美元的股权头寸,代表着亚马逊对 Anthropic 的重大投资,而这家人工智能公司曾在 FTX 运营期间直接获得班克曼-弗里德的资金。
FTX 基金会资助 Anthropic 的安全评估机构 METR
METR 的前身——对齐研究中心,于 2022 年 7 月从班克曼-弗里德的有效利他主义慈善机构 FTX 基金会获得了 125 万美元。由于班克曼-弗里德窃取 FTX 客户资金,这笔捐款在 FTX 穿仓前四个月到账。METR 会检查 Anthropic 和亚马逊等前沿人工智能公司的安全性,并关注可能隐藏自我编程能力、与人类目标不一致的模型。
METR 于 2024 年退还 125 万美元 FTX 捐款
METR 最终于 2024 年退还了从 FTX 获得的 125 万美元捐款,并表示:“我们现在认为,这笔钱在道德上(即使在法律上不是)属于 FTX 客户或债权人。”这笔捐款曾是对齐研究中心预算的一部分,使其能够运营一年多,之后该机构于 2023 年更名为 METR。
班克曼-弗里德使用客户资金购买 5 亿美元的 Anthropic 股权
班克曼-弗里德于 2022 年 4 月使用 FTX 客户资金购买了价值 5 亿美元的 Anthropic 股权。这笔对 Anthropic 的直接投资,与 FTX 基金会对 METR 前身机构的资助是相互独立的。
Anthropic 与 METR 员工均与有效利他主义有关联
METR 脱胎于对齐研究中心,该中心由保罗·克里斯蒂亚诺领导;克里斯蒂亚诺曾是 Anthropic 首席执行官达里奥·阿莫代伊的前室友。克里斯蒂亚诺聘用了 METR 首席执行官贝丝·巴恩斯,后者自大学时期起就与有效利他主义有关联。METR 的其他员工也与牛津大学有关联,而牛津大学是有效利他主义运动的中心。
阿莫代伊的妹妹丹妮拉·阿莫代伊是 Anthropic 的总裁。她的丈夫是霍尔登·卡诺夫斯基,后者是 Anthropic 员工,并共同创立了两个有效利他主义基金会:GiveWell 和如今名为 Coefficient Giving 的组织。METR 还获得 Good Ventures 基金会和 Coefficient Giving 的资金支持,这两者也是另外两个有效利他主义实体。
亚马逊于 2025 年试点由 METR 审查前沿人工智能模型
2025 年,亚马逊与 METR 直接合作,由 METR 试点审查亚马逊自研的前沿人工智能模型。这种合作关系表明,除在 Anthropic 中持有财务权益外,亚马逊还与该安全评估机构存在运营层面的联系。
曾由唐纳德·特朗普任命为白宫“人工智能沙皇”的大卫·萨克斯告诉阿莫代伊:“别再假装 METR 是独立的。”美国战争部的一个账号发文表达了其观点,称有效利他主义与美国主义不一致。
常见问题
亚马逊持有 Anthropic 多少股权?
据该公司第二季度 10-Q 文件,亚马逊持有价值约 9.8 亿美元的 Anthropic 可转换票据,以及约 9.2 亿美元的无投票权优先股,总计约 19 亿美元。
山姆·班克曼-弗里德向 Anthropic 和 METR 投资了多少?
班克曼-弗里德于 2022 年 4 月使用 FTX 客户资金购买了价值 5 亿美元的 Anthropic 股权。他的 FTX 基金会还于 2022 年 7 月向 METR 的前身对齐研究中心捐赠了 125 万美元,METR 于 2024 年退还了这笔捐款。