DPN:Dual Path Networks

DPN 融合了 RestNeXt 和 DenseNet 的优点,提出双路的特征提取架构

什么是 DPN ?

  • DPN 结合 ResNeXt 的优点(重用特征,因为整个 ResNet 都具备这个属性)和 DenseNet 的优点(在重用特征上存在冗余,但是利于探索新特征)
  • 上图的 d, e 是等价的,都是 DPN,分成左右两个部分,第一部分类似 DenseNet,第二部分是 ResNeXt,对与中间的 shortcut 部分,由左右两部分的特征图经过 1x1 卷积相加,然后经过 3x3 卷积,和 1x1 的卷积(这就是 resnet 的 shortcut 部分),然后对获取的特征图分成两部分,一部分和左边类 DenseNet 对应特征图拼接,另一部分与右边 ResNeXt 的特征图进行相加

DPN 的网络结构?

  • (a)残差网络;(b)密集连接网络,每一层都可以获取所有先前微模块的输出;(c)通过共享(b)中层间的相同输出的首个 1×1 连接,密集连接网简并成一个残差网络;(c)中用虚线圈起的长方形标出了残差单元的位置;(d)本篇所提出的双路径结构 ——dual path architecture——DPN。(e)实现过程中(d)的等价形式,「~」表示一个分支操作(split operation),「+」表示元素级(element-wise)的相加

参考:

  1. 卷积神经网络从 lenet 到 DPN 发展历程_dpn 神经网络_qq_643421232 的博客 - CSDN 博客
  2. DPN(Dual Path Network)算法详解_dpn 网络_AI 之路的博客 - CSDN 博客