据路透社报道,字节跳动的 Seed AI 研究部门组建了一个对齐与准备团队,并于昨天(10 月 15 日)启动了全网招聘,招聘内容为 10 名高级 AI 模型安全研究员。
新团队将研究模型开发中的安全培训、漏洞测试、监控与解释模型行为的工具、AI Agent 测试环境以及应对新兴风险的方法。Seed 表示将寻求独立测试,并与高校及研究机构合作。
相关快讯
ChangeNOW 修复网站安全漏洞并推出 NOW AI 安全实验室
Anthropic 向 METR 授予与员工同等的访问权限,以开展独立的 AI 评估
市场担忧之际,AWS 与 Anthropic 部署专门的 AI 工程师