据 Common Sense Media(一家为家庭评估媒体和技术的非营利组织)称,该机构在周三发布的一项新研究中将 ChatGPT for Teens 评定为“不可接受的风险”。尽管 OpenAI 承诺采取包括家长控制和危机保护在内的安全措施,但研究发现,即使用户处于心理健康危机中,该应用的设计仍会持续鼓励用户参与;当用户表现出痛苦迹象时,ChatGPT 还会一再说出“你可以继续和我谈谈你注意到的情况”之类的话。
OpenAI 对这项评估提出异议,称 Common Sense Media 的测试方法存在缺陷,而且测试可能在家长控制功能完全启用之前就已开始。该公司没有回应报告关于聊天机器人参与模式和建立关系行为的核心发现。