OpenAI 封禁用于隐蔽虚假信息活动的俄罗斯 ChatGPT 账户

关键要点

  • OpenAI 封禁了参与隐蔽虚假信息行动、用于传播虚假叙事的俄罗斯 ChatGPT 账户。
  • 运营者在 Substack、Telegram、X、Facebook 和 LinkedIn 上生成了宣传 International Burke Institute 的社交媒体帖子。
  • OpenAI 此前于 2 月关闭了与 Rybar 有关联的账户;这些账户采用了类似的基于 VPN 的位置伪装方法。

OpenAI 在周二发布的一篇博客文章中宣布,已封禁一批来自俄罗斯的 ChatGPT 账户。这些账户被用于支持一项传播虚假信息的隐蔽线上影响行动。该人工智能公司在调查由 AI 生成的社交媒体帖子后发现了这一行动,并进一步揭露了一场更广泛的影响行动:该行动围绕一个网站展开,网站包含抄袭的学术作品、一份亲俄的主权指数,以及旨在掩盖运营者俄罗斯背景的行动。这是亲俄行为者利用 AI 工具传播虚假信息的最新事件,运营者使用 VPN 绕过 OpenAI 对来自俄罗斯的模型访问限制。

OpenAI 发现行动基础设施和方法

据 OpenAI 称,运营者用俄语向 ChatGPT 发出指令,生成发布在 Substack、Telegram、X、Facebook 和 LinkedIn 上的社交媒体评论。运营者要求 ChatGPT 隐藏任何表明其为俄罗斯人的语言线索。生成内容中有很大一部分宣传了一个名为 International Burke Institute(IBI)的组织。OpenAI 表示,虽然该行动的直接影响似乎有限,但其意义在于已经建立的基础设施。这些由 ChatGPT 生成的帖子指向一个表面上看似可信的机构,其中包括所谓的专家、重新发布的学术作品和所谓的专有风险指数。

International Burke Institute 网站刊登抄袭的学术作品

OpenAI 表示,IBI 网站刊登了从真实学术文章中抄袭的内容,有时还带有虚假署名。这场影响行动还创建了一份赞扬俄罗斯、贬低西方国家的主权指数。OpenAI 指出,该行动说明,影响力行为者可以将 AI 用作辅助工具,制造权威感,掩盖受青睐叙事的来源,并建立能够随着时间推移不断扩展的资产。该公司补充称,对 AI 的辅助性使用也可能导致更广泛的行动被曝光。

OpenAI 此前曾在 2 月关闭与 Rybar 相关的账户

2 月,OpenAI 关闭了与 Rybar 相关的 ChatGPT 账户。Rybar 是一家亲俄媒体公司,英国政府称其部分运营由俄罗斯总统办公厅协调,由俄罗斯国有企业 Rostec 资助,并与俄罗斯情报部门成员合作。OpenAI 不允许从俄罗斯访问其模型,但该公司确认,在这两起事件中,运营者都使用了 VPN 来掩饰所在地。CNBC 已联系俄罗斯驻伦敦大使馆和俄罗斯外交部置评。

常见问题

OpenAI 对这些俄罗斯 ChatGPT 账户采取了什么措施?

OpenAI 封禁了一批来自俄罗斯的 ChatGPT 账户。这些账户被用于支持一项传播虚假信息的隐蔽线上影响行动。该公司在调查由 AI 生成的社交媒体帖子后发现了这一问题。

运营者如何绕过 OpenAI 对来自俄罗斯的访问限制?

运营者使用 VPN 掩饰所在地,因为 OpenAI 不允许从俄罗斯访问其模型。运营者用俄语向 ChatGPT 发出指令,并要求系统隐藏任何表明其为俄罗斯人的语言线索。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论