什么是Auto‑PyTorch

Auto‑PyTorch 简介

Auto‑PyTorch 是由德国弗赖堡大学与汉诺威大学的 AutoML 团队基于 PyTorch 开发的 自动机器学习（AutoML）框架，旨在实现 深度学习全流程的自动化。它的核心功能包括：

1. 联合搜索网络结构与训练超参数
   • 通过 神经网络架构搜索（NAS）‍ 与 超参数优化 同时进行，避免手工调参的繁琐过程。
   • 使用 SMAC（基于模型的超参数优化）和 BOHB（贝叶斯优化 + Hyperband）实现高效的多保真度搜索。
2. 多保真度元学习（Multi‑Fidelity Meta‑Learning）‍
   • 在低预算（少 epoch、少数据子集）上快速评估候选模型，再逐步提升预算，提高 any‑time 性能。
   • 通过元特征（meta‑features）对新数据集进行初始化，加速搜索收敛。
3. 完整的机器学习流水线自动化
   • 自动完成 数据预处理、特征选择、模型训练、正则化、模型集成 等环节。
   • API 受 auto‑sklearn 启发，只需几行代码即可启动搜索，例如 TabularClassificationTask().search(X_train, y_train)。
4. 支持的任务类型
   • 表格数据（分类、回归）是主要目标，已在多个公开基准上取得 SOTA 结果。
   • 也提供 时间序列预测 的专门模块。
   • 目前不直接支持图像/文本任务（相对 AutoKeras 等工具），但计划未来扩展。
5. 开源与生态
   • 项目托管在 GitHub，采用 Apache 2.0 许可证，社区活跃，提供 pip 安装方式 pip install autoPyTorch。
   • 官方文档、示例代码以及最新论文均可在项目主页获取。

关键文献与资源链接

使用示例（Python 代码）

import autoPyTorch.api.tabular_classification as api

# 创建任务对象，设定预算（如 1 小时）
cls = api.TabularClassificationTask(
    max_runtime=3600,          # 总运行时间（秒）
    max_num_epochs=50,         # 每个模型的最大 epoch
    ensemble_size=10           # 最终集成模型数量
)

# 读取数据（X 为特征矩阵，y 为标签向量）
cls.search(X_train, y_train)

# 预测
pred = cls.predict(X_test)

以上代码演示了最简化的使用流程，实际项目中可通过 configuration_space、budget 等参数进行细粒度控制。

适用场景

• 企业级表格数据建模：金融风控、营销预测、医疗统计等结构化数据任务。
• 快速原型实验：在缺乏深度学习经验的团队中，利用 Auto‑PyTorch 自动搜索最佳模型，缩短研发周期。
• 资源受限的实验环境：多保真度搜索能够在有限算力下获得可接受的模型性能。

总结
Auto‑PyTorch 将 神经架构搜索、超参数优化 与 元学习 融合在一起，提供了一个 “一站式” 的 AutoML 解决方案，特别适合 表格数据 与 时间序列 场景。其开源、文档完善、社区活跃的特性，使其成为在 PyTorch 生态中实现自动化深度学习的首选工具之一。