OpenAI 封锁了源自俄罗斯和伊朗的 ChatGPT 账户。这两个组织分别以不同手法在多个国家开展秘密影响力行动。俄罗斯行动针对拉丁美洲受众(其中相当一部分内容针对乌克兰),通过虚假身份“米娅·克拉克”控制“社会研究中心”。ChatGPT 被用于撰写内部报告、虚假信件和语音脚本,以及少量本地化西班牙语内容。
俄罗斯影响力行动:虚假研究机构控制拉美叙事
俄罗斯行动针对拉丁美洲受众,其中相当一部分内容针对乌克兰,同时涉及阿根廷、玻利维亚和厄瓜多尔的国内政治。该行动通过虚假身份“米娅·克拉克”控制一个名为“社会研究中心”的机构;当地员工显然并不知道自己受雇于俄罗斯方面,而是出于善意开展研究工作。
ChatGPT 主要用于撰写内部报告,也用于生成虚假信件和语音脚本,以及少量针对特定地区本地化的西班牙语内容。OpenAI 将此次行动评为第五类干扰性影响力行动,这是 OpenAI 迄今评出的最高等级。
伊朗“假署名”行动:7 个假记者身份
伊朗方面的行动被命名为“假署名”(Bogus Bylines),使用 7 个假记者身份向网络媒体投稿,主要针对美伊冲突,并以英语和波斯语发布内容。OpenAI 在十几个网站上发现了近 100 篇使用这些虚假姓名发表或转载的文章;部分虚假身份也拥有社交媒体账号,用于传播已发表的文章和相关信息。
关于伊朗、美国和以色列的帖子引发了一些评论,但互动并不多。OpenAI 将文章发布工作评为 4 级,将社交媒体运营评为 2 级。
AI 辅助影响力行动的趋势:传统媒体渠道触及更广
根据 OpenAI 的观察,这两项行动的特别之处在于,它们成功地将内容传播至自身社交媒体平台以外的渠道;通过传统渠道(如报告或媒体发布)获得触达的活动,往往比仅限于社交媒体的活动接触到更广泛的受众。这是 OpenAI 自 2024 年初以来研究的 30 项影响力行动中观察到的趋势。两个组织都借助 AI 加速了起草、编辑、翻译和撰写内部报告等任务,但这些活动仍需要面向真实受众采用过时的影响力策略。
OpenAI 同时指出,在这些账户被封锁前,AI 工具并未提升其触达受众的能力,这些行动的效果依然有限。
常见问题
俄罗斯影响力行动的具体手法是什么,OpenAI 如何评级?
根据 OpenAI 的说明,俄罗斯行动通过虚假身份“米娅·克拉克”控制“社会研究中心”,针对拉丁美洲受众;ChatGPT 被用于撰写内部报告、虚假信件和语音脚本,以及本地化西班牙语内容;OpenAI 将此次行动评为第五类,是迄今评出的最高等级。
伊朗“假署名”行动如何运作,规模有多大?
根据 OpenAI 的报告,伊朗“假署名”行动使用 7 个假记者身份,在十几个网站上发表或转载近 100 篇文章,主要针对美伊冲突,并使用英语和波斯语;部分假身份也拥有社交媒体账号,协助传播相关内容;OpenAI 将文章发布工作评为 4 级,将社交媒体运营评为 2 级。
OpenAI 如何看待 AI 在影响力行动中的作用?
根据 OpenAI 的观察,AI 工具让起草、编辑、翻译和撰写内部报告等任务的速度更快,但这些活动仍需要面向真实受众采用过时的影响力策略;传统媒体渠道比单纯的社交媒体触及更广泛的受众,这是 OpenAI 自 2024 年初以来研究的 30 项影响力行动中观察到的共同趋势。