什么是特征金字塔网络(FPN)

AI解读 1年前 (2024) 硕雀
143 0

特征金字塔网络Feature Pyramid NetworkFPN)概述

特征金字塔网络是一种用于提升计算机视觉任务(尤其是目标检测实例分割语义分割)在多尺度场景下表现的网络结构。它通过在深度卷积神经网络CNN)内部构建多尺度特征金字塔,实现了高层语义信息与低层空间细节的高效融合,从而在不显著增加计算成本的前提下显著提升小目标检测和细粒度分割的精度。


1. 产生背景与动机

  • 多尺度挑战:真实图像中的目标大小差异巨大,单一尺度的特征图难以兼顾大目标的语义表达和小目标的空间定位。
  • 传统做法的局限图像金字塔(对原图多次缩放后分别特征提取)计算量大、内存占用高;单层特征图只能在一种尺度上工作。
  • FPN 的核心思路:利用已有的卷积网络天然的层级结构(自底向上),在此基础上加入自顶向下的特征传播和横向(侧向)连接,实现 “高语义 + 高分辨率” 的特征融合。

2. 网络结构细节

模块 作用 关键实现
底层特征提取(Backbone) 采用 ResNetDenseNet 等主干网络,产生一系列不同分辨率的特征图(如 C2、C3、C4、C5) 传统卷积层、残差块
自顶向下路径(Top‑Down) 将最高层(语义最强)特征图逐层上采样(通常使用 2× 双线性插值)向低层传播 P5 = Conv1×1(C5) → P4 = Conv1×1(C4) + Upsample(P5) → …
横向连接(Lateral Connections) 在每个尺度上将上采样后的高层特征与对应的底层特征通过 1×1 卷积统一通道后相加,实现语义与细节的融合 + 操作后再做 3×3 卷积平滑
金字塔输出(P2‑P5 / P6) 经过上述融合后得到一组分辨率递减、语义递增的特征图,供后续检测头或分割头使用 常见层级:P2(≈C2上采样),P3,P4,P5,额外的 P6 通过 2× stride‑2 卷积生成

关键点:每个金字塔层都可以独立进行目标分类和框回归(或分割),避免了仅在最高层做预测导致的小目标性能下降。


3. 工作流程(以目标检测为例)

  1. 输入图像 → Backbone:提取 C2‑C5 四层特征。
  2. 自顶向下 + 横向融合:生成 P2‑P5(有时再加 P6)。
  3. 检测头(如 RPN、Fast/​Faster R-CNN、RetinaNet‍:在每个 Pℓ 上并行放置相同的小型卷积头,分别预测不同尺度的目标。
  4. 结果合并:将各尺度的预测框统一到原图坐标系,完成最终检测。

这种 “多尺度独立预测 + 共享特征金字塔” 的设计,使得模型在保持 ≈5 FPS 的实时速度下,仍能在 COCO 等大规模数据集上取得 state‑of‑the‑art 的检测精度。


4. 主要优势

优势 说明
提升小目标检测 低层高分辨率特征保留细节,高层语义帮助判别,小目标召回率显著提升
计算与内存开销低 只在已有特征图上做少量 1×1、3×3 卷积和上采样,额外成本可忽略
通用性强 可作为 Neck 直接嵌入 Faster R-CNN、Mask R-CNN、RetinaNet、YOLO‑FPN 等多种检测框架;同样适用于实例分割、语义分割、姿态估计等任务
易于扩展 基于 FPN 的变体(PANet、NAS‑FPN、BiFPN、GFPNet 等)进一步增强跨层信息流或加入可学习的特征融合权重

5. 常见变体与后续发展

变体 主要改进点
PANet(Path Aggregation Network) 在自顶向下后再加入自底向上路径,强化特征的双向流动
NAS‑FPN 通过神经架构搜索自动寻找最优的特征融合拓扑
BiFPN(Bidirectional Feature Pyramid Network) 引入可学习的加权融合,减少冗余连接,提高效率
GFPNet(Global Feature Pyramid Network) 在全局上下文信息上做进一步融合,提升对大范围场景的感知
Cascade FPN、Hybrid FPN 通过堆叠多个 FPN 或混合不同尺度的特征,进一步提升检测鲁棒性

6. 应用场景概览

任务 典型模型/使用方式
目标检测 Faster R-CNN + FPN、RetinaNet、YOLO‑FPN
实例分割 Mask R-CNN(在 FPN 基础上加入 mask 分支)
语义分割 DeepLabV3+(使用 FPN 作为特征提取)
姿态估计 HRNet + FPN 进行多尺度特征融合
视频分析 结合时序特征的 FPN 结构用于动作检测

7. 小结

特征金字塔网络通过 自顶向下 + 横向连接 的轻量化设计,成功解决了深层网络在多尺度目标上的语义‑分辨率失衡问题。它已成为现代视觉模型的 标准 Neck 组件,并催生了众多高效变体,广泛服务于检测、分割、姿态等多种视觉任务。其核心优势在于 提升小目标性能、保持低计算开销、易于迁移与扩展,因此在学术和工业界都得到广泛采用。

来源:www.aiug.cn
声明:文章均为AI生成,请谨慎辨别信息的真伪和可靠性!