xAI 周一向明尼苏达州提出投诉,指控该州执行一项禁止“色情化裸体(nudification)”技术的禁令,寻求阻止一项定于 8 月 1 日生效的法律。该法律对每一条有害输出最高可处以 50 万美元罚款。该诉讼是在当局逮捕涉嫌创作儿童性虐待材料的 Grok 用户之后,以及多起由未成年人提起的诉讼之后展开。原告称,这款 AI 工具在未经同意的情况下让其图像被性化。明尼苏达州的法律针对在州内生成输出的 AI 工具制造商,不要求进行分发,因此可能仅因个别用户所看到的图片而追究 xAI 责任。
明尼苏达州法律威胁:每条输出最高 50 万美元罚款
明尼苏达州的法律将于 8 月 1 日起生效,对在州内发现的每一条单独有害输出,最高处以 50 万美元罚款。该立法不包含分发要求,这意味着 xAI 可能会因只有生成该图的用户自己看到的图片而面临处罚。根据 xAI 在投诉中所述,罚款会迅速累积,因为有些 Grok 用户被指控为单个受害者制作了成千上万张图片。
阿肯色州摄影师遭逮捕引发更多诉讼
在上周,xAI 因向执法部门通报一名颇具知名度的阿肯色州儿童摄影师而遭到起诉。据称,该摄影师使用 Grok 将他拍摄的数百名客户的图片性化。起诉状来自一名 10 岁的 Jane Doe。其内容称,这名摄影师据称为 Doe 制作了数百张图像,并为其他儿童制作了数千张图像和视频。Doe 的律师告诉 Ars,许多这些孩子正准备提起自己的诉讼,而这些主张可能最终会被加入一项在 3 月由田纳西州的年轻女孩发起的潜在集体诉讼。
xAI 称用户诉讼体现其合规努力
本月早些时候,xAI 开始起诉那些据称正在绕过其防护措施以生成 AI CSAM 的用户。在周一的投诉中,xAI 将那起诉讼作为证据,称其已经在尽其所能惩罚不良行为。该公司辩称,起诉一名 Grok 用户就证明 Grok 值得获得来自明尼苏达州禁令的安全港,称该州正试图迫使 Grok 和 Grok Imagine 发生改变,从而确保 xAI 对有害输出承担责任。
常见问题
xAI 针对明尼苏达州提了什么?
xAI 周一向明尼苏达州提出投诉,指控该州执行一项禁止“色情化裸体(nudification)”技术的禁令,并寻求阻止一项定于 8 月 1 日生效的法律。
明尼苏达州法律对 AI 工具制造商施加哪些罚款?
明尼苏达州的法律威胁像 xAI 这样的公司:对在州内发现的每一条单独有害输出最高处以 50 万美元罚款,且不要求分发。
阿肯色州摄影师案件发生了什么?
上周,xAI 因向执法部门通报一名颇具知名度的阿肯色州儿童摄影师而遭到起诉。据称该摄影师使用 Grok 将他拍摄的数百名客户的图片性化;同时,10 岁的 Jane Doe 提交起诉状,称已对其制作了数百张图片。