什么是Windows ML（Windows Machine Learning）

Windows ML（Windows Machine Learning）概述

Windows ML 是 Microsoft 为 Windows 生态打造的本地机器学习推理运行时，旨在让开发者能够在 Windows 设备上高效、低延迟地运行 ONNX 格式的 AI 模型，并自动利用 CPU、GPU、NPU 等多种硬件加速器。它基于 ONNX Runtime 与 DirectML，通过统一的 WinRT API（C#、C++、Python 等）对硬件抽象，实现“一次编写、随处运行”。

1. 核心组成

2. 支持的语言与平台

这些 API 在 Windows 11 24H2 及以上（包括 x64 与 ARM64）以及 Windows 10（1809 及更高）‍、Windows Server 2019/2022 中均可使用。

3. 硬件加速覆盖

硬件抽象的核心是 Execution Provider，它们由 Microsoft 与硬件合作伙伴共同维护，确保新芯片上市后能够快速获得支持。

4. 开发流程（从模型到应用）

1. 模型准备
   • 在任意深度学习框架（PyTorch、TensorFlow、ONNX‑compatible）中训练模型。
   • 使用 WinMLTools 或 onnxconverter 将模型导出为 ONNX（.onnx）文件。
2. 模型验证
   • 在本地使用 onnxruntime 或 winmltools 进行离线推理验证，确保模型兼容性。
3. 项目集成
   • 在 Visual Studio 中添加 .onnx 文件，IDE 会自动生成对应的 LearningModel 类代码（C# 或 C++）。
   • 通过 LearningModelDevice 选择目标硬件（LearningModelDeviceKind::Default 自动选择最佳 EP）。
4. 运行时管理
   • Windows ML 在首次运行时会检查系统硬件，下载所需的 EP（如 DirectML、NPU EP），并在后台保持更新。
   • 开发者可通过 LearningModelSession 控制推理批次、输入/输出绑定等细节。
5. 部署
   • 生成的应用不需要额外捆绑 ONNX Runtime 或硬件驱动，系统自带运行时。
   • 支持离线使用，满足隐私与低带宽需求。

完整的入门教程与示例代码均在官方文档中提供。

5. 主要优势

6. 发展历程与最新状态

7. 典型使用场景

8. 限制与注意事项

• 模型必须是 ONNX：其他格式需先转换（WinMLTools 支持多种转换路径）。
• 预览阶段功能：虽然 2025 年已 GA，但部分高级特性（如自定义 EP）仍在持续迭代。
• 硬件兼容性：极旧的 GPU 或缺乏 DirectX 12 支持的设备只能使用 CPU EP，性能受限。
• 调试工具：目前官方提供的调试主要是日志与 Visual Studio 的诊断工具，复杂模型的性能调优仍需手动分析。

9. 快速入门代码示例（C#）

using Microsoft.AI.MachineLearning;
using Windows.Storage;

// 1. 加载 ONNX 模型
var modelFile = await StorageFile.GetFileFromApplicationUriAsync(new Uri("ms-appx:///Assets/model.onnx"));
var learningModel = await LearningModel.LoadFromStorageFileAsync(modelFile);

// 2. 创建默认设备（自动选择最佳 EP）
var device = LearningModelDevice.GetDefault();

// 3. 创建会话
var session = new LearningModelSession(learningModel, device);

// 4. 绑定输入（假设模型接受一张 224x224 RGB 图像）
var binding = new LearningModelBinding(session);
binding.Bind("input", imageTensor);

// 5. 运行推理
var result = await session.EvaluateAsync(binding, "run1");

// 6. 读取输出
var outputTensor = result.Outputs["output"] as TensorFloat;

该示例展示了 加载模型 → 选择硬件 → 绑定输入 → 评估 → 读取输出 的完整流程，适用于 Windows 桌面或 UWP 应用。

10. 小结

Windows ML 通过 ONNX Runtime + DirectML + 自动 EP 管理，为 Windows 开发者提供了“一次编写、随处运行”的本地 AI 推理解决方案。它兼顾 高性能、跨硬件抽象、隐私安全 与 易用性，已在 2025 年正式进入 GA，成为 Windows 生态中部署机器学习模型的首选平台。开发者只需准备 ONNX 模型，即可利用统一的 WinRT API 将 AI 能力嵌入到桌面、UWP、WinUI、甚至 HoloLens 等多种 Windows 设备上。