Microsoft 于 2026 年 11 月 17 日在 Microsoft Ignite 2026 上宣布 Azure AI Gateway 正式推出。这是一项完全托管的 Azure 服务,可对跨多个模型提供商和工具的 AI 应用与智能体实施统一治理。该网关位于调用方和后端之间,负责对请求进行身份验证、执行策略、将请求路由到正确的模型或工具,并记录每次交互的遥测数据。
Azure AI Gateway 此前以 Azure API Management 的 AI Gateway 层级提供公共预览版,现在作为独立产品推出,专为治理对 AI 模型和工具的访问而优化。这项服务旨在整合原本分散在各个应用中的治理工作,让平台团队从一个位置管理访问权限、执行策略、控制成本并监控使用情况,而无需运维网关基础设施。
开发者可以连接来自 Microsoft Foundry、Azure OpenAI、OpenAI、Anthropic、Amazon Bedrock、Google Vertex AI 的模型,也可以连接任何兼容 OpenAI 的端点。每个模型都会分配一个由组织定义的别名,应用可通过该别名调用模型,让开发者无需更改应用代码即可切换模型。网关支持按优先级、权重或自定义条件进行路由,并可配置故障转移。处于预览阶段的 Model Router 可根据成本或质量标准自动选择模型。
Azure AI Gateway 可联合接入 Model Context Protocol (MCP) 服务器,并将 OpenAPI 规范、连接器和 API Management API 转换为 MCP 工具,实现工具整合。它支持多个 MCP 规范版本,包括 2026 年 7 月发布的最新版本。应用可通过兼容 OpenAI 的 API 或 Anthropic Messages API 调用模型,智能体则可通过任何 MCP 客户端连接工具。
网关使用 Microsoft Entra ID 执行访问控制,并通过内置角色确定哪些用户可以访问特定模型和工具。提供商密钥和工具凭据不会进入应用代码。Azure AI Content Safety 会对每条提示和响应进行安全与合规筛查。用户只能访问经过批准的工具,工具的筛选和屏蔽可通过网关或 Microsoft Agent 365 策略进行管理。
在预览阶段,网关可通过与 Microsoft Agent 365 集成来防范遭投毒的工具:Microsoft Defender 和 Microsoft Purview 会检查工具调用及其结果,在智能体采取行动之前拦截威胁。网关支持通过代表用户 (OBO) 身份验证委派身份,让工具以已登录用户自身的权限执行操作。每次模型和工具调用都会记录调用方信息、目标详情、令牌数量和结果,并可追溯每次调用的源头智能体。数据可通过 OpenTelemetry 导出到 Application Insights、Datadog、Splunk、Grafana Cloud 或任何 OTLP 端点。
隐私保护已融入设计:网关为入站调用提供处于预览阶段的 Private Link 支持,为私有后端提供处于预览阶段的 VNet 集成,还支持 IP 筛选和托管标识身份验证。
网关通过跟踪用户、团队、应用、智能体和提供商的令牌用量及预估成本,提供支出情况概览。当预估支出达到设定限额时,已启用的预算控制会阻止新请求。令牌和请求限额可确保资源公平分配,防止任何单个调用方占用过多容量。
Azure AI Gateway 集成了 Microsoft Foundry、Microsoft Agent 365 和 Azure API Management。在多个团队、资源、订阅和提供商使用 Microsoft Foundry 的部署中,网关可增加一个共享治理层。网关支持中心辐射式模型:网关作为中心,由中央平台团队一次性制定规则;开发者则继续在各自的 Foundry 项目中构建,作为辐射端使用获批的模型和工具,而无需管理凭据。多个项目可以共享单个部署,包括预配吞吐量单位 (PTU),并可故障转移到另一个 Foundry 资源或提供商。Foundry 提示智能体可通过处于预览阶段的模型连接使用网关模型,无需更改代码。
借助 Microsoft Agent 365,网关可发现 MCP 服务器并集成 Agent 365 工具策略。网关会在每次工具调用时执行自身策略和 Agent 365 策略,并通过预览阶段的 Defender 和 Purview 集成增强威胁防护。
可通过 Azure 门户、CLI、Bicep 或 REST API 进行配置。编码智能体插件可让开发者发现获批的模型和工具,并直接从编码智能体连接其应用。可通过 Bicep 或 REST API 将设置作为基础设施即代码部署,以便集成 CI/CD 管道。
Azure AI Gateway 现已在 17 个 Azure 区域推出:East US、East US 2、East US 2 EUAP、West US、West US 2、Central US、North Central US、South Central US、Canada East、West Europe、North Europe、UK South、France Central、Sweden Central、Australia East、Japan East 和 Southeast Asia。
该服务采用免费增值、按使用量计费的定价模式。每个网关每月包含 10,000 次免费请求。付费计费将于 2027 年 1 月 1 日开始。每月请求量不超过 1000 万次时,服务费为每个网关每月 500 美元,按小时计费,不收取额外的单次请求费用。请求量超过每月 1000 万次时,需支付每月 500 美元的费用,另加每增加 100 万次请求 20 美元,按 10,000 次请求为增量计费。价格以美元计价,且可能因区域而异;确切的区域价格将在开始计费时公布。
开发者可在 ai.gateway.azure.com 创建网关,整个过程约需一分钟,且无需初始费用。快速入门流程包括:连接现有模型并为其分配别名,开放智能体所需的 MCP 工具,通过 AI Gateway 角色授予团队成员访问权限,设置成本限额,并将应用或智能体指向网关。开发者也可以安装 Azure AI Gateway 编码智能体插件,由插件自动发现获批的模型和工具并连接应用。文档和快速入门指南可在 ai.gateway.azure.com/docs 查阅。
Azure AI Gateway 支持来自 Microsoft Foundry、Azure OpenAI、OpenAI、Anthropic、Amazon Bedrock、Google Vertex AI 的模型,以及任何兼容 OpenAI 的端点。应用可通过兼容 OpenAI 的 API 或 Anthropic Messages API 调用模型。对于工具,网关可整合 MCP 服务器,并将 OpenAPI 规范、连接器和 API Management API 转换为 MCP 工具;它支持多个 MCP 规范版本,包括 2026 年 7 月发布的最新版本。智能体可通过任何 MCP 客户端连接工具。
Azure AI Gateway 提供免费增值、按使用量计费的定价模式,每个网关每月可免费使用 10,000 次请求。付费计费将于 2027 年 1 月 1 日开始。每月请求量不超过 1000 万次时,服务费为每个网关每月 500 美元,按小时计费,不收取额外的单次请求费用。请求量超过每月 1000 万次时,需支付每月 500 美元的费用,另加每增加 100 万次请求 20 美元,按 10,000 次请求为增量计费。价格以美元计价,且可能因区域而异;确切的区域价格将在开始计费时公布。
网关使用 Microsoft Entra ID 和内置角色执行访问控制,使用 Azure AI Content Safety 筛查提示和响应,支持通过代表用户 (OBO) 身份验证委派身份,记录每次模型和工具调用的调用方信息及结果,并通过 OpenTelemetry 将遥测数据导出到 Application Insights、Datadog、Splunk、Grafana Cloud 或任何 OTLP 端点。安全功能包括:为入站调用提供处于预览阶段的 Private Link 支持,为私有后端提供处于预览阶段的 VNet 集成、IP 筛选、托管标识身份验证,以及通过 Microsoft Defender 和 Microsoft Purview 集成提供的预览阶段威胁防护。提供商密钥和工具凭据不会进入应用代码。
相关快讯
微软 Azure 推出借助 Azure Catalyst 实现的智能体主导现代化改造
微软 Ignite 2026:面向 AI Agent 和开发者 PC 的 Windows 混合智能
Windows Server 2028 开启公开预览,带来 AI 推理和安全增强功能
Azure Databricks 集成 Microsoft 365 Copilot 和 Agent 365,赋能企业 AI
Azure Logic Apps 在微软 Ignite 2026 上新增 HL7 连接器和 AI 编排