请问，深度残差网络曾经那么厉害，让咱们改良图片分类的研究生从哪里翻新？– amaze2 的答复 – 知乎 https://www.zhihu.com/questio…
兴许能够从其余畛域的深度学习办法，取得些许灵感。
例如，残差膨胀网络 是残差网络 ResNet 的一种改良，本来是用在含噪声的振动信号上，进行旋转机械的智能故障诊断。
首先，残差膨胀网络就是将信号降噪畛域的软阈值函数，引入 ResNet 中，作为一个非线性的层。如果不理解软阈值函数的话，能够去搜一下 Soft Threshlding，会搜到这一篇：DL Donoho. De-noising by soft-thresholding[J]. IEEE transactions on information theory, 1995. 软阈值函数的公式如下：
而后，借助相似 Squeeze-and-Excitation Network 的子网络，来主动设置软阈值函数所须要的阈值。残差膨胀网络的根本模块见下图：
如果图片中含有很多与标签无关的杂物或者噪声，或者能够尝试一下残差膨胀网络。
文献：Minghang Zhao, Shisheng Zhong, Xuyun Fu, Baoping Tang, Michael Pecht,Deep residual shrinkage networks for fault diagnosis, IEEE Transactions on Industrial Informatics, 2020, 16(7): 4681-4690.
以下链接可供参考：
Deep Residual Shrinkage Networks for Fault Diagnosis
https://ieeexplore.ieee.org/d…
zhao62/Deep-Residual-Shrinkage-Networks
https://github.com/zhao62/Dee…
10 分钟看懂深度残差膨胀网络
https://www.cnblogs.com/uizhi…
【深度残差膨胀网络】从删除冗余特色时的灵活性进行探讨
https://blog.csdn.net/ABCD_20…