AI 代理于 9 月 26 日发展出难以理解的“方言”,引发治理担忧

据央视国际报道,9 月 26 日,人工智能研究人员发现,在虚拟社交环境中接受测试的多个 AI 代理会自主简化语法并创造隐喻,以提高沟通效率,逐渐形成一种人类难以轻易解读的类方言系统。研究发现,当 AI 代理在封闭系统中长期互动时,它们可能会将清晰的指令扭曲为仅供内部使用的符号——例如将“账本”转化为警告信号——从而降低人类对其行为的可解释性和监管能力。研究人员警告称,这一趋势表明 AI 系统可能存在一定程度自主性所带来的潜在风险,并强调需要加快制定 AI 治理框架和国际合作标准。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论