AMD 和微软于 2026 年 11 月 17 日宣布,AMD Instinct MI350P GPU 将支持 Windows Server 2025 以及即将推出的 Windows Server 2028。此次公告将 GPU 加速的 AI 推理引入企业 Windows 环境,AMD Inference Microservice(AIMs)和 GPU 分区功能将在发布时提供支持,使本地部署能够借助相关工具简化模型部署,并在各项工作负载间分配 GPU 容量,同时满足数据主权和驻留要求。
此次合作将 AMD EPYC 处理器和 AMD Instinct GPU 定位为互补的基础设施解决方案:EPYC CPU 可帮助整合传统工作负载,Instinct GPU 则为 AI 推理提供加速。企业由此能够将基础设施更新投资与新的 AI 服务结合起来,同时统筹两者的容量和成本规划。
AMD 与微软将 AI 推理带入 Windows Server 企业环境
此次合作旨在应对企业在预算、机架空间、电力和冷却方面的实际限制。AMD EPYC 处理器可帮助企业将现有工作负载整合到更少的服务器上,为新的 AI 基础设施腾出空间、电力和冷却容量。通过使用基于 AMD EPYC 处理器的服务器更新旧有基础设施,组织可以在更少的系统上运行现有工作负载,从而有望减少对机架空间、电力和冷却的需求,同时为新基础设施腾出余量。
AMD Instinct MI350P GPU 将加速推理纳入企业数据中心规划。企业可以一并评估应用现代化和 AI 投资,在统一的容量和预算策略下,根据工作负载匹配 CPU 和 GPU 资源。Windows Server 为托管和管理由 AMD Instinct MI350P GPU 加速的推理服务提供企业级平台,使推理更接近企业信息及使用这些信息的应用,同时让客户能够控制提示、检索内容和响应的处理位置。
面向数据主权的本地 AI 基础设施
对于寻求本地 AI 的组织,该平台支持数据主权和驻留目标,使组织能够应用自己的身份、授权、保留和审计策略。应用可以设计为仅检索每位用户获准访问的信息。本地推理使企业能够根据业务需求选择混合智能方案——组织可以在本地托管适合的工作负载,以管理云端 token 用量并保留对敏感信息的控制权,同时在云端前沿模型的能力满足业务需求时继续使用这些模型。
这种灵活性有助于客户根据自身工作负载和使用模式构建 AI 成本结构。让企业 AI 发挥价值的信息往往也最需要谨慎处理,包括专有源代码、客户记录、财务信息和内部业务知识;这些信息都能从本地托管和管理中受益。
面向企业 AI 服务的 GPU 分区与资源分配
不同企业 AI 服务的资源需求各不相同,嵌入模型或较小的语言模型只需使用部分 GPU 容量。GPU 分区功能获得支持后,客户可以将一块 Instinct MI350P GPU 划分为受支持的分区,并在各项工作负载间分配资源。这为 IT 团队提供了更大的灵活性,使其能够运行多种模型服务,并根据应用需求匹配资源分配。
AMD Inference Microservices 简化了受支持模型的部署,而 GPU 分区则为 IT 团队分配底层硬件提供了更大的灵活性。两者结合,有助于企业最大限度地发挥 GPU 投资价值并提升组织效率。
覆盖各类工作流程的企业 AI 应用
Windows Server GPU 加速为广泛的企业应用提供了平台。SQL Server 2025 的原生向量功能可帮助企业构建能够按含义检索信息并以此为 AI 响应提供依据的应用。在 Instinct MI350P GPU 上运行的本地托管嵌入模型可以为这些工作流程提供向量,同时将嵌入推理保留在企业控制的基础设施内。与微软 SQL Server 团队合作计划开展的演示,将 GPU 加速的嵌入生成引入现有的 RAG(检索增强生成)流水线,展示客户如何通过本地 AI 推理扩展既有应用。
在 Instinct MI350P GPU 上运行的共享模型服务可以支持开发团队使用的编码代理,帮助它们理解内部代码库、起草变更并查找工程文档。集中托管推理服务可让组织管理各开发团队的 AI 成本,同时将专有代码保留在企业控制的基础设施内。共享推理端点可支持文档摘要、搜索获准使用的知识,以及帮助员工利用相关企业信息完成业务任务的应用。
通过 Azure Virtual Desktop(AVD)混合部署远程会话提供的应用,可以连接到集中托管的共享推理服务。多名用户可以在现有工作流程中使用 AI 辅助,而无需为每位用户配备专用推理 GPU,也无需在每个终端配备加速器。
关键事实与 AMD Instinct MI350P 支持时间表
- 已确认 AMD Instinct MI350P GPU 支持 Windows Server 2025
- 已宣布即将发布 Windows Server 2028 支持
- AMD Inference Microservice(AIMs)将在 Windows Server 2025 发布时获得支持
- GPU 分区功能将在发布时获得支持,可将 Instinct MI350P 资源分配给多个工作负载
- AMD EPYC 处理器可整合工作负载,为机架空间、电力和冷却腾出容量
- 公告日期:2026 年 11 月 17 日
- SQL Server 2025 原生向量功能可与 Instinct MI350P GPU 上本地托管的嵌入模型集成
- 支持通过 Azure Virtual Desktop 混合部署远程会话访问集中托管的推理服务
常见问题
AMD 和微软宣布了哪些针对 Windows Server 的具体 GPU 支持?
AMD 和微软宣布,AMD Instinct MI350P GPU 将支持 Windows Server 2025 以及即将推出的 Windows Server 2028。公告还包括在发布时支持 AMD Inference Microservice(AIMs)和 GPU 分区,使进行本地部署的客户能够简化模型部署,并在各项工作负载间分配 GPU 容量,同时满足数据主权和驻留要求。
Instinct MI350P 的 GPU 分区如何使企业 IT 团队受益?
GPU 分区功能获得支持后,客户可以将一块 Instinct MI350P GPU 划分为受支持的分区,并在各项工作负载间分配资源。这为 IT 团队提供了更大的灵活性,使其能够运行多种模型服务,并根据应用需求匹配资源分配,从而帮助企业最大限度地发挥 GPU 投资价值并提升组织效率。不同企业 AI 服务的资源需求各不相同,而分区功能允许嵌入模型或较小的语言模型仅使用部分 GPU 容量。
Windows Server 上的本地 AI 推理如何支持数据主权?
Windows Server 为托管和管理由 AMD Instinct MI350P GPU 加速的推理服务提供企业级平台,使推理更接近企业信息及使用这些信息的应用。这让客户能够控制提示、检索内容和响应的处理位置,在支持数据主权和驻留目标的同时,允许组织应用自己的身份、授权、保留和审计策略。应用可以设计为仅检索每位用户获准访问的信息;本地推理则使企业能够管理云端 token 用量,并保留对专有源代码、客户记录和财务信息等敏感信息的控制权。