ShelfNet
本文通过类似 FPN 的思路去组合多尺度调整,然后通过跳跃连接,解决深层网络带来的梯度消失问题。是一篇技巧很低的论文,单纯地组合现有网络架构完成模型设计,没有其他创新,指出了自己设计的网络具有梯度多路径,但是没有具体分析多路径是否有用?多路径对什么类型的目标有效?
什么是 ShelfNet?
- 绝大多数 SOTA 的 Model 都是基于 "single encoder-decoder" 结构,image 经过下采样再上采样。ShelfNet 采用了一种特殊的架构,Backbone 不同阶段编码的 multi-scale 特征被送入 "Segmentation Shelf",“Shelf"由多个’‘encoder-decoder’' 对组成,在不同的空间分辨率分支上使用了"skip-connection”,这种独特的结构增加了网络内部的路径数量,以此来改善网络中的信息流动,从而提高了分割精度
ShelfNet 的网络结构?
- ShelfNet 依附于 Backbone (ResNet/Xception/DenseNet 等),行 A-D 分别表示不同尺度的特征图输出,它们会被送入’Segmentation Shelf’中。Segmentation Shelf 是一个 Shelf 形状的多列 (1-4) 结构,col. 3 为 encoder (下采样),col2 和 col4 为 decoder (上采样),在相邻列 (例如 3 和 4) 之间,在不同的空间尺度阶段 (A-D) 使用 "skip-connection"
ShelfNet 与 FCN 的差异?
- 类似 ResNet 可以看做是一些浅层网络的 ensemble,ShelfNet 可以视为 FCNs 的 ensemble。不同颜色代表的信息流动路径,其中每一条路径都可以被看做一个 [[FCN]] 的变种,所以 ShelfNet 有能力去捕捉更复杂的特征并得到更高的精度