解决深度网络的退化问题
更新日期:2021-08-10     浏览次数:110
核心提示:对图像中 像素个数多的灰度值进行展宽,而对像素个数少的灰 度值进行归并,从而增大对比度。为了更好的获取图像的全局特征 , 该 通 道 采 用 深 度

对图像中 像素个数多的灰度值进行展宽,而对像素个数少的灰 度值进行归并,从而增大对比度。为了更好的获取图像的全局特征 , 该 通 道 采 用 深 度 卷 积 神 经 网 络 ResNet18 对其进行特征提取,ResNet 网络参考了 VGG19 网络,在其基础上进行修改,并通过短路机制加入了残差单元,形成了残差学习,解决了深度网络的退化问题。原始的残差块由两个卷 积层和两个 BN 层组成,每个模块都有一个快速的输 入输出连接。本文对原始的残差块结构进了改进,去除了原有结构中的两个 BN 层,并在 第二个卷积层后添加了 ReLU,以提高残差单元的非 线性表达能力,避免了 BN 层对图像空间信息的破坏。 为增强残差网络的性能,减轻网络得训练负担,提出 一种跨层集成策略,如图 3(c)所示,通过快捷连接来 组合每个残差单元的输出特征图,网络结构从全局残 差变为局部残差,同时避免了模型训练中的过拟合和 反向传播中梯度消失的现象。在全局残差结构的基础上结合了每个残差单元的输出特性,从而充分利用了 每个残差单元的输出特征。