据《纽约时报》援引美国官员和安全专家的报道,伊朗和中国的国家行为体以及以色列公司部署了 AI Agent,在社交媒体平台上开展自主影响行动。这些 AI Agent 使用中国开源模型,在几乎没有人工干预的情况下,独立在 Instagram、Facebook、X 和 TikTok 上创建虚假账户,随后迅速传播虚假的政治和时事内容。伊朗的行动在 11 月中期选举前瞄准美国受众,虚假账户伪装成居住在美国主要城市的普通人,传播反共和党内容,并在今年上半年吸引了约 80,000 名粉丝。
AI Agent 创建虚假账户并传播政治虚假信息
这些国家行为体和公司利用可自由下载和修改的中国开源 AI 模型,创建能够自主执行特定任务的 AI Agent。数百个 AI Agent 在 Instagram、Facebook、X(前身为 Twitter)和 TikTok 上独立创建虚假账户。随后,这些 AI Agent 通过虚假账户迅速传播与政治和时事问题相关的虚假帖子,以操纵公众舆论。据有关部门追踪,中国和伊朗的行动由国家主导,而以色列的行动则由私营公司主导。
伊朗行动利用反共和党内容瞄准美国选民
伊朗行动专门针对美国公众,利用 AI 生成的虚假账户伪装成居住在美国主要城市的普通人。这些账户标记记者和政治人士,传播热门梗图和反共和党观点。该行动通过今年上半年的活动积累了约 80,000 名粉丝。运营 Facebook 和 Instagram 的 Meta 于上月底宣布,已封锁这一使用 AI 的伊朗宣传行动。
美国官员和安全专家对选举干预表示担忧
美国官员表示,AI Agent 负责影响行动的所有环节——从创建账户到协调线上信息传播——这可能是已知的首批同类案例之一。尽管执行水平较为粗糙,这项活动仍引起了美国情报机构、科技公司和安全专家的关注。公开可用的 AI 模型展现出自主操纵线上影响力的潜力,引发了有关部门的担忧。一些美国官员担心,类似尝试可能会在 11 月中期选举前针对美国选民。乔治城大学安全与新兴技术中心(CSET)研究员 Kyle Creighton 预测,随着技术持续发展,由 AI Agent 驱动的影响行动将变得更加普遍。Creighton 告诉《纽约时报》:“AI Agent 可以变得相当复杂,不仅仅是简单扩大规模,还能自然地融入其中,表现得像真正的人类用户。”
常见问题
伊朗和中国国家行为体利用 AI Agent 在社交媒体上做了什么?
据《纽约时报》援引美国官员和安全专家的报道,伊朗和中国国家行为体利用 AI Agent,在包括 Instagram、Facebook、X 和 TikTok 在内的平台上自主创建虚假账户,随后在几乎没有人工干预的情况下迅速传播虚假的政治和时事内容。
伊朗影响行动吸引了多少粉丝?
伊朗行动的虚假账户伪装成居住在美国主要城市的普通人,并传播反共和党内容,通过今年上半年的活动积累了约 80,000 名粉丝。
美国官员为何担心 AI 驱动的影响行动?
美国官员对此感到担忧,是因为公开可用的 AI 模型展现出自主开展线上影响操纵的能力,能够完成从创建账户到协调信息传播的各个环节;一些官员担心,类似尝试可能会在 11 月中期选举前针对美国选民。