阿里巴巴与华中大学成立 AI 安全研究中心

BABA-4.38%

关键要点

  • 阿里巴巴集团与华中科技大学于 11 月 18 日成立联合 AI 安全研究中心,启动了涵盖四个研究方向的九个项目。
  • 阿里巴巴的 Qwen 开源模型版本超过 470 个,全球累计下载量超过 40 亿次,并生成了 330,000 个衍生模型。
  • 阿里巴巴的 XekRung-27B 模型成功率达到 88.9%,在 CyberGym 基准测试中排名第一,成为首个在该基准测试中登顶的中国模型。

阿里巴巴集团与华中科技大学于 11 月 18 日签署合作协议,将建立联合研究中心,专注于 AI 安全,并启动首批九项研究项目,解决日常 AI 用户面临的常见痛点。该中心名为智能攻防与前沿安全联合研究中心,将围绕四大研究方向开展工作:大语言模型安全与攻防、智能体与终端安全、智能系统与软件安全,以及数据协同与隐私保护。

首批九项研究项目应对 AI 安全挑战

研究中心首批九项项目直接针对 AI 部署中的现实安全漏洞。其中一个名为“图像对抗样本与终端威胁判断”的项目,针对智能体操作用户手机时可能面临的风险,具体应对屏幕伪造和恶意诱导等威胁。另一个名为“隐私保护关系图”的项目,解决用户在购物、地图和外卖应用之间切换时面临的数据共享难题:通过同态加密实现数据互联,同时防止隐私泄露,实现研究人员所说的“可用但不可见,协同但不透明”的数据处理。

阿里巴巴的 AI 安全基础设施与开源承诺

阿里巴巴集团安全部总裁钱磊表示,阿里巴巴已实施“AI 驱动”战略,强调开源与开放协作,以推动 AI 普及。截至公告发布之日,阿里巴巴的 Qwen 模型已发布 470 多个开源版本,全球累计下载量超过 40 亿次,并衍生出 33 万多个模型,在这一类别中位居全球第一。

阿里巴巴在安全领域的研发已在 AI 安全基准测试中取得可量化的成果。该公司的安全大语言模型“Fuyuan Xirung”(XekRung-27B)近期在 CyberGym 排行榜上以 88.9% 的成功率位居第一,成为首个登顶这一国际权威 AI 安全能力基准的中国模型。

高校研究实力与长线学术合作

华中科技大学副校长高亮表示,该校被指定为国家一流网络安全学院示范项目建设单位,具备开展前沿 AI 安全研究的基础。学校将通过联合研究中心发挥其网络安全学科和科研人才优势,聚焦符合产业需求的前沿技术突破,并统筹推进科研创新、成果转化和人才培养。

阿里巴巴是中国产学研合作的代表性企业。自 2022 年以来,该公司已与全国 80 多所高校开展合作,合作成果中的 500 多篇论文被国际顶级会议和期刊录用,研究领域涵盖大语言模型训练和 AI 安全。

关键事实

  • 阿里巴巴集团与华中科技大学于 11 月 18 日成立智能攻防与前沿安全联合研究中心
  • 启动首批九项研究项目,涵盖大语言模型安全、智能体与终端安全、智能系统与软件安全,以及数据协同与隐私保护
  • 阿里巴巴 Qwen 开源模型超过 470 个版本,全球累计下载量超过 40 亿次,并衍生出 33 万多个模型
  • 阿里巴巴的 XekRung-27B 安全模型以 88.9% 的成功率位居 CyberGym 国际基准榜首
  • 自 2022 年以来,阿里巴巴已与 80 多所高校开展合作,产出 500 多篇发表于国际顶级会议和期刊的论文
  • 研究重点包括图像对抗样本与终端威胁判断,以及利用同态加密构建隐私保护关系图

常见问题

联合研究中心的四大研究方向是什么?

智能攻防与前沿安全联合研究中心涵盖四大研究方向:大语言模型安全与攻防、智能体与终端安全、智能系统与软件安全,以及数据协同与隐私保护。这些方向旨在解决日常用户使用 AI 技术时遇到的实际痛点。

阿里巴巴与高校合作的论文有多少篇发表于顶级学术平台?

自 2022 年以来,阿里巴巴已与中国 80 多所高校开展合作,合作成果中有 500 多篇论文被国际顶级会议和期刊录用。这些论文涉及大语言模型训练和 AI 安全等研究领域。

阿里巴巴的 XekRung-27B 模型是什么?它取得了怎样的基准测试成绩?

阿里巴巴的 XekRung-27B 是一款安全大语言模型,近期以 88.9% 的成功率位居 CyberGym 排行榜第一,成为首个登顶这一国际权威 AI 安全能力基准的中国模型。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论