Meta 检测到 3320 万起涉及儿童剥削的违规行为,并推出 AI 引导工具

META+2.95%

关键要点

  • Meta 在 2026 年上半年发现 Facebook 和 Instagram 上存在 3320 万起涉及儿童性剥削的违规行为。
  • 超过 97% 的儿童性剥削内容在用户举报前就已被 Meta 的自动化系统识别。
  • Meta 正在推出新的 AI 工具,用于识别将用户引导至其平台外非法内容的广告。

Meta 周三宣布,2026 年上半年,其已对 Facebook 和 Instagram 上的 3320 万条儿童性剥削内容采取行动,其中超过 97% 在用户举报前就已被其系统检测到。该公司正在推出新的 AI 工具,旨在识别那些暗中将用户引导至 Meta 平台之外的非法儿童性虐待材料的广告和账户。Meta 表示,新措施是为了应对不法分子不断变化的策略——他们利用看似无害的广告作为通往非法内容的入口。此次推出新措施之际,Meta 旗下服务在儿童安全问题上持续面临法律和监管压力,其中包括其在 8 月与美国 29 个州达成的一项最高达 180 亿美元的和解协议,该协议旨在解决有关网络儿童保护的问题。

Meta 在 2026 年上半年检测到 3320 万条儿童性剥削内容

Meta 报告称,在 2026 年上半年其采取行动的 3320 万条儿童性剥削内容中,超过 97% 是由其自动化系统在用户举报前识别出来的。在印度,同一时期 Meta 对 530 万条儿童性剥削内容采取了行动,其中超过 98% 在用户举报前就已被检测到。该公司表示,这些检测率反映了其现有内容审核基础设施的表现。

新型 LLM 系统瞄准将用户引向平台外内容的导流广告

Meta 推出了一种新的大型语言模型系统,用于检测其所谓的“导流”行为——这类广告看起来正常,但被怀疑会将用户引导至网络其他地方的非法内容或有害活动。该公司表示,随着不法分子调整方法以逃避检测,这种策略已经被发现。虽然广告本身可能不含非法材料,但可能成为通往托管儿童性虐待材料网站的入口。Meta 表示,如今其不仅会检查广告内容,还会查看广告将用户引导至何处,并利用这些信息屏蔽违反其规则的网站或目的地,同时对背后的账户采取行动。该公司补充说,随着对这些网络运作方式了解的加深,将继续加入新的信号。

红队 AI Agent 测试 Meta 的安全防御措施

Meta 部署了一个“红队 AI Agent”,通过寻找不法分子可能利用来绕过保护措施的漏洞,测试自身的安全措施。该公司表示,这一工具有助于在新的滥用方式广泛传播之前识别出来。Meta 还在改进系统,用于识别那些在账户被移除后使用新账户重新回到其平台的用户。

Meta 就儿童安全诉讼达成最高 180 亿美元和解

8 月,Meta 就一宗由美国 29 个州提起的儿童安全诉讼达成协议,同意支付最高 180 亿美元以和解。该和解协议旨在解决有关网络儿童保护的问题。此前,议员已就 Meta 社交媒体服务可能给年轻用户带来的风险提起诉讼并提出批评。该公司仍因其平台上的儿童安全问题面临压力。

Meta 推出家长控制和青少年账户功能

Meta 今年推出了多项儿童安全功能。4 月,该公司为 Meta AI 推出了家长控制功能,允许家长查看孩子与 AI 助手讨论过的话题。3 月,WhatsApp 为青少年推出了家长关联账户。2 月,Instagram 开始在青少年搜索自杀或自残内容时向家长发出提醒。9 月,WhatsApp 增加了相关控制功能,允许家长限制青少年使用频道的方式、控制谁可以查看状态更新、决定谁可以将孩子添加到社群,并接收有关特定社群最新活动的通知。

常见问题

Meta 周三就儿童剥削内容宣布了什么?
Meta 周三宣布,2026 年上半年,其已对 Facebook 和 Instagram 上的 3320 万条儿童性剥削内容采取行动,其中超过 97% 在用户举报前就已被其系统检测到。该公司正在推出新的 AI 工具,用于识别那些暗中将用户引导至 Meta 平台之外的非法儿童性虐待材料的广告和账户。

Meta 为什么推出新的大型语言模型广告检测系统?
Meta 推出这一新的 LLM 系统,是为了检测“导流”行为——这类广告看起来正常,但被怀疑会将用户引导至网络其他地方的非法内容或有害活动。该公司表示,随着不法分子调整方法以逃避检测,这种策略已经被发现,而该系统会检查广告将用户引导至何处,以屏蔽违反其规则的目的地。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论