OpenAI 为青少年推出具备增强安全功能的 ChatGPT

META+2.95%

关键要点

  • OpenAI 周二宣布推出面向青少年的 ChatGPT 版本,为 18 岁以下用户提供增强的安全功能。
  • ChatGPT 青少年版包括学习模式、作业提醒、家长控制和适龄安全保护措施。
  • OpenAI 正面临法律和监管审查,包括佛罗里达州总检察长詹姆斯·乌特迈尔于 6 月提起的诉讼,以及美国联邦贸易委员会于 9 月展开的调查。

OpenAI 周二宣布推出 ChatGPT for Teens,这是一款专为 18 岁以下用户打造的聊天机器人体验,配备了更强大的内置安全保护措施。该产品包含学习模式、作业提醒等教育功能,以及旨在减少用户接触不适合其发展阶段内容的年龄适配型防护措施。此次发布正值 AI 行业因青少年安全问题面临更严格审查之际。Meta 目前正面临一场高风险审判,29 个州的检察长指控其助长了青少年和儿童的成瘾行为。

ChatGPT for Teens 包含教育功能和家长控制

ChatGPT for Teens 基于 OpenAI 过去一年推出的多项功能打造,其中包括旨在帮助学生逐步解决问题的学习模式,以及年龄预测和家长控制功能。全新的青少年体验包含作业提醒、测验、学习可视化功能和学习时段,家长或青少年可以设定学习模式默认开启的时间。

OpenAI 表示,ChatGPT for Teens 增加了年龄适配型防护措施,旨在减少用户接触不适合其发展阶段或有害内容的机会。OpenAI 在一份新闻稿中表示:“青少年应该能够使用 AI 进行学习、创作和探索。但这种使用权限应当配备与其发展阶段相匹配的保护措施,强化现实世界中的人际关系,并支持长期健康使用。”

OpenAI 因安全实践面临法律审查

OpenAI 一直因其安全实践受到审查。6 月,佛罗里达州总检察长 James Uthmeier 对 OpenAI 及其首席执行官萨姆·奥特曼提起诉讼,指控该公司明知产品不安全且可能伤害用户,却仍将其发布。数日后,据报道,一个州检察长联盟对该公司展开了调查。当时,OpenAI 在给 CNBC 的一份声明中表示,计划与相关官员“进行建设性接触”。

9 月,联邦贸易委员会对包括 OpenAI 和 Meta 在内的七家公司展开调查,以了解其 AI 聊天机器人可能如何对儿童和青少年产生负面影响。OpenAI 还面临多起过失致死诉讼,诉讼指控 ChatGPT 导致用户产生有害妄想,并在某些情况下促使用户自杀。

在 OpenAI 推出 ChatGPT for Teens 之际,Meta 正面临一场高风险审判,案件将审理其是否助长了青少年和儿童的成瘾行为。这场审判可能让 Meta 承担数千亿美元的损害赔偿。案件涉及一个由 29 个州的检察长组成的联盟,该联盟于 2023 年对该公司提起了联合诉讼。

常见问题

ChatGPT for Teens 包含哪些功能?
ChatGPT for Teens 包含学习模式、作业提醒、测验、学习可视化功能和学习时段等教育功能。家长或青少年可以设定学习模式默认开启的时间,该产品还包含旨在减少用户接触不适合其发展阶段或有害内容的年龄适配型防护措施。

OpenAI 在青少年安全方面面临哪些法律挑战?
6 月,佛罗里达州总检察长 James Uthmeier 对 OpenAI 及其首席执行官萨姆·奥特曼提起诉讼,指控该公司明知产品不安全,却仍将其发布。9 月,联邦贸易委员会对包括 OpenAI 在内的七家公司展开调查,以了解其 AI 聊天机器人可能如何对儿童和青少年产生负面影响。OpenAI 还面临过失致死诉讼,诉讼指控 ChatGPT 导致用户遭遇有害后果。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论