DPN:Dual Path Networks

DPN融合了RestNeXt和DenseNet的优点,提出双路的特征提取架构

什么是 DPN ?

  • DPN 结合 ResNeXt 的优点(重用特征,因为整个 ResNet 都具备这个属性)和 DenseNet 的优点(在重用特征上存在冗余,但是利于探索新特征)
  • 上图的 d, e 是等价的,都是 DPN,分成左右两个部分,第一部分类似 DenseNet,第二部分是 ResNeXt,对与中间的 shortcut 部分,由左右两部分的特征图经过1x1卷积相加,然后经过3x3卷积,和1x1的卷积(这就是 resnet 的 shortcut 部分),然后对获取的特征图分成两部分,一部分和左边类 DenseNet 对应特征图拼接,另一部分与右边 ResNeXt 的特征图进行相加

DPN 的网络结构?

  • (a)残差网络;(b)密集连接网络,每一层都可以获取所有先前微模块的输出;(c)通过共享(b)中层间的相同输出的首个 1×1 连接,密集连接网简并成一个残差网络;(c)中用虚线圈起的长方形标出了残差单元的位置;(d)本篇所提出的双路径结构——dual path architecture——DPN。(e)实现过程中(d)的等价形式,「~」表示一个分支操作(split operation),「+」表示元素级(element-wise)的相加

参考:

  1. 卷积神经网络从lenet到DPN发展历程_dpn 神经网络_qq_643421232的博客-CSDN博客
  2. DPN(Dual Path Network)算法详解_dpn网络_AI之路的博客-CSDN博客