微软 Foundry 为大规模 AI Agent 增添持续改进能力

关键要点

  • 微软 Foundry 在微软 Ignite 2026 上宣布推出持续改进能力,使 AI Agent 能够通过构建、识别、优化和验证各阶段进行系统性学习。
  • 微软 Foundry 支持超过 11,000 种模型,包括 OpenAI、Anthropic、Meta 和 Mistral 提供的模型,模型路由器可节省高达 65% 的成本。
  • 阿拉斯加航空在对 MAI-Code-2-Flash 进行微调后,取得了 91.1% 的分类准确率,表现优于 GPT-6 Astra 和 GPT-6.1 Sol,且成本更低。

微软在 Microsoft Ignite 2026 上宣布,Microsoft Foundry 具备持续改进能力,可通过系统化的四步循环,让 AI Agent 随时间不断学习和改进。该平台目前支持超过 11,000 个模型,包括 OpenAI、Anthropic、Meta、Mistral 提供的模型以及微软自有 AI 模型,使组织能够大规模构建、运行和优化 Agent,同时掌控部署和治理。

GitHub Copilot 借助模型编排助力 Agent 开发

Agent 使用 GitHub Copilot 构建,后者可生成自动化特定业务流程所需的大部分或全部代码。集成在底层的 GitHub Copilot Fusion 会在构建过程中路由和编排模型,自动为任务选择合适的模型,同时平衡性能、延迟和成本。这使开发者无需为每项任务手动选择不同模型。

Foundry 的四步持续改进循环

Microsoft Foundry 通过反复执行四步流程实现持续改进:建立、识别、优化、验证并重复。

建立阶段首先通过评估定义什么是良好表现——评估是根据业务特定标准对 Agent 响应进行评分的自动化测试。目前处于预览阶段的评分标准评估器,允许组织自行编写质量和安全标准。同样处于预览阶段的轨迹标注功能,让专家能够审查 Agent 运行中的真实对话,并标记哪些地方有效、哪些地方失败,以及原本应该如何处理。这些经过标注的轨迹会成为基于实际使用情况而非假设测试用例构建的评估数据集。组织可以将最佳测试用例锁定为黄金数据集,作为每个新版本都必须达到的基准。

识别阶段使用目前已正式发布的 Insights,从 Agent 轨迹中归纳反复出现的问题,并指出可能的原因。这项可见性现已扩展至使用 LangGraph、LangChain 和 CrewAI 构建的 Foundry 外部 Agent,这些集成目前均已正式发布。

优化阶段借助 Agent Optimizer 改进 Agent 指令、技能和模型选择,并在部署前根据既定评估测试每项候选变更。Agent Optimizer 基于现有的提示优化功能和 Foundry 模型路由器构建,这两项功能此前均已可用。Foundry 模型路由器会将简单请求发送给小型快速模型,将复杂请求发送给更大型的先进模型;与将所有请求都发送给前沿模型相比,最多可节省 65% 的成本。

验证并重复阶段通过统计测试证明改进确实有效,而非随机波动。组织可以将这些检查集成到现有的 GitHub Actions 或 Azure DevOps 流水线中。持续评估会抽样实时流量,并使用建立阶段确定的同一套评估器进行评分。定期评估会重新运行黄金数据集,定期红队扫描则用于测试新的风险。监控仪表板在一个视图中显示质量、安全性、延迟和代币用量,并在评分下降时发出警报。

借助托管 Agent 和 Microsoft Copilot Harness 实现企业级部署

Foundry Agent Service 通过托管 Agent 运行使用首选框架和执行环境构建的 Agent。目前,托管 Agent 已正式发布,可处理更多并发会话;其启动速度提升功能则处于预览阶段。对于倾向于使用托管执行环境的团队,目前处于预览阶段的 Microsoft Copilot harness 提供可复用技能和子 Agent 等内置能力。语音 Agent 现已正式发布。AI 原生时尚公司 Fashable 使用语音 Agent 和 Microsoft Copilot harness,让设计和采购流程变得更具对话性,并由 Agent 提供支持。

通过 Foundry Guardrails 实现治理和安全

Agent 在 Foundry 中运行时,会通过 Entra Agent ID 获得身份。Foundry guardrails 只向 Agent 提供必要的访问权限,并根据业务政策要求,让敏感操作保留人工参与。Foundry Safety 中的 Agent 控制功能将监督范围扩展到运行时,在 Agent 执行任务时根据 guardrail 政策检查其行为。组织在每个步骤都能保持控制,所有变更在进入生产环境前都会根据证据进行测试。

实际性能提升

Alaska Airlines 展示了持续改进方法的应用:该公司探索对 MAI-Code-2-Flash 进行微调,以帮助受训人员按照 ATA 代码对飞机维修报告进行分类。在 Alaska 的分类评估中,该模型开箱即用时得分为 81.2%,微调后达到 91.1%,表现优于 GPT-6 Astra 和 GPT-6.1 Sol,成本也仅为其一小部分。NTT DATA 正将持续改进循环应用于其项目管理 Agent,利用可观测性、评估和优化来发现问题并系统性提升质量,并为将该 Agent 扩展到 1,000 多个内部项目做好准备。

关键事实

  • Microsoft Foundry 支持来自 OpenAI、Anthropic、Meta、Mistral、开源项目和微软 AI 模型的 11,000 多个模型
  • 与将所有请求都发送给前沿模型相比,Foundry 的模型路由器最多可节省 65% 的成本
  • Alaska Airlines 使用 MAI-Code-2-Flash 后,分类准确率从开箱即用时的 81.2% 提升至微调后的 91.1%,表现优于 GPT-6 Astra 和 GPT-6.1 Sol,成本更低
  • 托管 Agent 现已正式发布,并改进了并发会话处理能力;语音 Agent 也已正式发布
  • Microsoft Copilot harness 处于预览阶段,提供可复用技能和子 Agent 能力
  • 涵盖安全性和质量的评分标准评估器处于预览阶段
  • 轨迹标注功能和基于真实使用情况构建的评估数据集处于预览阶段
  • 黄金数据集功能可锁定基准测试用例,用于持续验证
  • Insights 功能现已正式支持 LangGraph、LangChain 和 CrewAI Agent
  • Agent Optimizer 可改进 Agent 指令、技能和模型选择,并根据评估结果测试变更
  • 持续评估会抽样实时流量,以验证改进在真实用户场景中是否持续有效
  • 定期红队扫描会持续测试新的安全风险
  • 监控仪表板显示质量、安全性、延迟和代币用量指标

常见问题

Foundry 的模型路由器如何降低成本并提升性能?

Foundry 的模型路由器会根据请求的复杂程度智能地进行路由。简单请求会发送给小型快速模型,较复杂的查询则会发送给更大型的先进模型。与将所有请求都发送给前沿模型相比,这种方法最多可降低 65% 的成本,同时平衡性能、延迟和成本优化。

Microsoft Foundry 中有哪些可用模型?

Microsoft Foundry 支持来自多个来源的 11,000 多个模型,包括 OpenAI、Anthropic、Meta、Mistral、开源项目以及微软自有 AI 模型。组织不会被锁定在单一模型提供商,可以通过该平台针对不同任务使用不同模型。

组织如何确保持续改进确实提升了 Agent 质量?

每项改进都会通过统计测试进行验证,以确保差异确实存在,而非随机波动。组织通过评估和符合自身业务的评分标准来定义什么是良好表现。持续评估会抽样实时流量,并使用同一套评估器进行评分;定期评估则会重新运行黄金数据集。监控仪表板会在评分下降时发出警报,确保质量提升经过验证,并能在生产环境中持续保持。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论