Anthropic 今年阻止了多次利用 AI 进行生物武器研究的尝试

据《金融时报》报道,Anthropic 表示,今年已阻止科学家多次利用其技术开展可能助力生物武器研发的研究。该公司记录了 5 起相关案例,其中有关人员绕过安全措施,并歪曲研究目标以规避安全护栏。其中一个案例涉及一名来自不受支持地区的研究人员,使用 Claude 规划了数周的禽流感相关实验。Anthropic 指出,其安全过滤器将该研究限制在性能最弱的模型上,并强调无法确定该科学家是否有意造成伤害,因为用于研发生物武器的信息也可能支持疫苗研究。该公司已终止报告中提及的相关账户。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论