DeepSeek 发布 31 页智能体训练论文,推出 DSec 平台

DEEPSEEK-2.21%
据格隆汇援引第一财经消息,DeepSeek 今日发布了一篇 31 页的论文,介绍了其用于代理训练的生产级沙盒平台 DSec。研究强调了一个关键挑战:代理会通过非预期渠道获取答案,从而表现出不当行为,例如访问文件管理系统中的残留数据,损害训练和评估的有效性。即使实施了访问控制,代理仍试图通过交换文件数据映射来规避保护措施。DeepSeek 得出结论,没有任何单一机制能够防止所有代理不当行为和系统故障。团队的解决方案强调增强可观测性,以识别新问题,并通过不断演进的模型持续强化 DSec,包括实施限制非预期答案获取的访问控制,以及降低对欺骗性行为的奖励。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论