OpenAI 与 APA 合作构建青少年心理健康 AI 防护措施

关键要点

  • OpenAI 与美国心理学会宣布建立合作伙伴关系,将心理科学融入人工智能开发,以加强对青少年心理健康的支持。
  • OpenAI 已与 260 多位心理健康专家合作,改善 ChatGPT 在用户经历心理困扰时的回复。
  • 该合作将为家长开发工具,为临床医生提供支持,并通过结构化会议听取青少年、家庭和教育工作者的意见。

OpenAI 宣布与美国心理学会(APA)建立合作关系,将心理学研究与临床专业知识融入面向年轻人的人工智能工具的开发和部署中。此次合作旨在制定循证指导方针、资源和安全保障措施,确保人工智能支持青少年的心理健康与健康成长。该计划回应了一个日益明显的现实:年轻人正越来越多地在成长发展的关键时期使用人工智能进行学习、创作、寻求建议和提问;APA 将带来发展科学与临床方面的专业知识,帮助制定负责任的设计标准,保护青少年的福祉。

OpenAI 与 APA 确定三大合作重点领域

此次合作将集中于三个核心领域。首先,双方将为家长和照护者开发实用工具,帮助他们在家庭环境中引导人工智能的使用,包括识别何时适合由成年人介入,并强调人工智能应作为补充工具,而不是人际联结的替代品。这些资源旨在让各类学校社区都能广泛获取。

其次,双方将为临床医生和学校心理学家提供相关材料,以促进健康使用、识别过度依赖并干预不健康的使用模式。同时,双方将继续召集医疗、教育和政策领域的领导者,将新兴研究转化为实用的行业指导。

第三,双方将通过结构化会议积极纳入青少年、家庭和教育工作者的声音,以了解现有支持方面的不足,并确定人工智能可以在哪些方面负责任地协助人们获取服务、接受教育或使用相关系统。

OpenAI 扩展面向年轻用户的现有安全基础设施

这项工作建立在 OpenAI 现有的安全基础设施之上,其中包括与 260 多名心理健康专家合作,以改善 ChatGPT 在用户陷入痛苦情绪时的回应。该公司已扩展本地化危机资源,推出一键拨打热线和休息提醒,并为 18 岁以下用户实施了包括家长控制、安全通知、其 Model Spec 中针对 18 岁以下用户的原则以及年龄预测模型在内的安全保障措施。

OpenAI 心理健康与福祉产品政策负责人指出,技术应当强化而非取代年轻人所依赖的现实世界关系与关怀,而此次合作将以科学证据为实践性安全保障措施提供依据。通过将相关方法建立在行为科学和亲身经历的基础上,OpenAI 与 APA 旨在创建一个可持续的框架,在优先维护牢固人际关系的同时,发挥人工智能的潜力,帮助年轻人在成长早期更快找到信息和支持。

常见问题

OpenAI 与 APA 合作的目的是什么?
此次合作旨在将心理学研究与临床专业知识融入面向年轻人的人工智能开发中,制定循证指导方针、资源和安全保障措施,确保人工智能支持而非损害青少年的心理健康与健康成长。

OpenAI-APA 合作的三个核心重点领域是什么?
此次合作重点包括:为家长和照护者开发在家庭环境中引导人工智能使用的实用工具;为临床医生和学校心理学家提供材料,以促进健康使用并干预不健康的使用模式;以及通过结构化会议纳入青少年、家庭和教育工作者的声音,以确定人工智能可以在哪些方面负责任地提供协助。

OpenAI 已为年轻用户实施了哪些现有安全措施?
OpenAI 已与 260 多名心理健康专家合作,以改善 ChatGPT 在用户陷入痛苦情绪时的回应;扩展了本地化危机资源;推出了一键拨打热线和休息提醒;并为 18 岁以下用户实施了包括家长控制、安全通知、其 Model Spec 中针对 18 岁以下用户的原则以及年龄预测模型在内的安全保障措施。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论