深度残差收缩网络简介

20次阅读

共计 541 个字符,预计需要花费 2 分钟才能阅读完成。

深度残差收缩网络(Deep Residual Shrinkage Network,DRSN)是深度残差网络 (Deep Residual Network, ResNet) 的一个变种,集成了 Squeeze-and-Excitation Network(SENet)的注意力机制模块和软阈值化,面向的是强噪声情况下的特征学习问题。接下来,结合一些图片,简要地介绍一下深度残差收缩网络的网络结构。

首先来看ResNet的基本模块:

然后来看SENet的基本模块。相较于ResNet,SENet的基本模块增加了一个子网络,用来学习一组权重,对特征图的不同通道进行加权:

接下来看深度残差收缩网络的基本模块。子网络学习得到了一组阈值,用于特征图的软阈值化:

最后是深度残差网络的整体结构,与一般的ResNet是相同的:

M. Zhao, S. Zhong, X. Fu, B. Tang, M. Pecht, Deep Residual Shrinkage Networks for Fault Diagnosis, IEEE Transactions on Industrial Informatics, 2019, DOI: 10.1109/TII.2019.2943898

https://ieeexplore.ieee.org/document/8850096

正文完
 0