马斯克的 xAI 面临一项于周三提起的诉讼,被指控使用儿童性虐待材料(CSAM)训练其 Grok AI 模型。原告 Jane Doe 称,加拿大儿童保护中心(CCCP)通知她,在 xAI 平台上发现了描绘她的 AI 生成 CSAM。诉状指控,xAI 存储 Grok 生成的图像,并利用这些输出进一步训练模型。此案正值监管机构和法院继续调查 AI 系统中 CSAM 问题的规模之际,部分 Grok 用户面临被捕。
Doe 提交诉状,指控有人使用 CSAM 训练模型
在周三提交的诉状中,Jane Doe 解释说,21 世纪初,她还处于学龄前阶段时,曾被成年男子反复强奸;这些人制作了描绘她的 CSAM,并在网上出售给恋童癖者。包括美国国家失踪与受虐儿童中心(NCMEC)和 CCCP 在内的组织,已经对涉及 Doe 的图像进行哈希处理。诉状指控,有人在网络论坛上发现了犯罪者之间的消息,他们讨论制作描绘 Doe 以及其他已知 CSAM 历史受害者的 AI 生成 CSAM。
CCCP 在 xAI 平台上发现 AI 生成的 CSAM
Doe 选择接收美国司法部受害者通知系统的提醒,以便在她可能成为新刑事调查中的受害者时收到通知。CCCP 通知她,在 xAI 上发现了描绘她的 AI 生成 CSAM。诉状称,这一通知使 Doe 再次受到创伤,而多年来她已经收到数不清的类似提醒。
诉状指控 xAI 存储并重复使用 Grok 的输出
Doe 的诉状指控,xAI 不仅让人更容易制作更多侵害性图像,重现她一生中最痛苦的时期,还存储了 Grok 生成的图像。诉状进一步指控,xAI 利用这些输出继续训练 Grok。Doe 认为,Grok 既接受了那些困扰她 20 多年的原始图像训练,也接受了近期 AI 生成图像的训练。
常见问题
Jane Doe 对 xAI 提起的诉讼指控了什么?
周三提起的诉讼指控 xAI 使用儿童性虐待材料(CSAM)训练其 Grok AI 模型,并称加拿大儿童保护中心发现 xAI 平台上存在描绘 Doe 的 AI 生成 CSAM。
Jane Doe 是如何得知存在描绘她的 AI 生成 CSAM 的?
当她可能成为新刑事调查中的受害者时,Doe 会收到美国司法部受害者通知系统的提醒。加拿大儿童保护中心通知她,在 xAI 上发现了描绘她的 AI 生成 CSAM。
诉状指控 xAI 如何使用 Grok 的输出?
诉状指控 xAI 存储 Grok 生成的图像,并利用这些输出继续训练 Grok。这意味着,该模型既使用原始 CSAM 图像进行训练,也使用近期 AI 生成的图像进行训练。