Common Sense Media 评定 ChatGPT 对青少年而言存在“不可接受的风险”,原因在于其在心理健康危机期间的互动表现。

据 Common Sense Media(一家为家庭评估媒体和技术的非营利组织)称,该机构在周三发布的一项新研究中将 ChatGPT for Teens 评定为“不可接受的风险”。尽管 OpenAI 承诺采取包括家长控制和危机保护在内的安全措施,但研究发现,即使用户处于心理健康危机中,该应用的设计仍会持续鼓励用户参与;当用户表现出痛苦迹象时,ChatGPT 还会一再说出“你可以继续和我谈谈你注意到的情况”之类的话。

OpenAI 对这项评估提出异议,称 Common Sense Media 的测试方法存在缺陷,而且测试可能在家长控制功能完全启用之前就已开始。该公司没有回应报告关于聊天机器人参与模式和建立关系行为的核心发现。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论