深度学习在图像去噪综述:Deep Learning on Image Denoising: An Overview


论文地址:https://arxiv.org/pdf/1912.13171.pdf

一、背景与动机:

  数字图像设备已经被应用在天气预测、灾难救援、安全监控与医学诊病等多个领域。然而数字设备常受到相机抖动、运动的物体、暗光和噪声等影响而导致捕获的照片不干净。因此图像去噪技术的研究具有重要的理论和实际应用价值。

  图像去噪技术在20世纪90年代已经成为研究热点。例如:用非局部相似性来优化稀疏方法能提高去噪的性能。字典学习有助于快速移除噪声。先验知识通过平滑噪声图像来恢复潜在干净图像的细节。更多竞争去噪方法包括MRF 、WNNM 、LSSC、CSF 、TNRD和GHEP能被利用。

  虽然这些大部分方法在图像去噪上能达到好的性能,但是他们有以下缺点:

  (1) 在测试阶段涉及复杂优化方法,

  (2) 手动设置参数, 

  (3) 一个固定的模型来处理单个去噪任务。

  拥有灵活的结构,强的自学习能力的深度学习技术能用来解决这些不足。

二、深度学习在图像去噪方面的基础框架

Machine learning methods for image denoising:

  有监督与无监督机器学习

Neural networks for image denoising:

  

Convolutional neural networks for image denoisin:

   VGG、GeogLeNet、ResNet、GAN

Hardware and software of deep learning techniques:

  

三、深度学习在图像去噪中的应用

外加白噪声图像去噪(additive white noisy-image denoising):

CNN/NN for AWNI denoising

  根据噪声的属性设计不同网络结构是极为关键的,设计网络结构有以下方式:

  (1)利用多视角来设计网络;包括三种类型:一幅噪声图像作为多个子网络的输入;一个样本的不同角度作为网络的输入;一个网络的不同通道作为输入。

  (2)改变Loss函数;

  (3)增加CNN的宽度或者深度;

  (4)在CNN中增加任意的插件;任意插件包括激活函数、空洞卷积、全连接层和池化层等

  (5)在CNN中使用跳跃连接 (Skip connection)或者级联操作(Cascaded operations);包括skip connection和cascaded operation。

CNN/NN and common feature extraction methods for AWNI denoising

  That can be divided into five categories: weak edge-information, non-linear, high dimensional and non-salient noisy images, and high computational costs.   

  对于weak edge-information noisy images来说,CNN with transformation domain method来移除噪声是非常有效的。

  对于non-linear noisy images来说,CNN with kernel method在恢复潜在干净图像是非常有效的。

  这类方法一般有三步:

    第一步用CNN来提取特征,

    第二步用核方法把非线性特征转为线性特征,

    第三步利用残差技术来重构潜在的干净图像。

  对于high dimensional noisy images来说,CNN和降维方法的组合是常用的去噪方法。

  对于non-salient noisy images来说,信号处理方法能引导CNN来提取显著的特征。

  对于high computational cost, CNN和图像的属性结合能有效地降低复杂度。

 The combination of optimization method and CNN/NN for AWNI denoising:

  1) improvement of denoising speed;

  2)Improvement of denoising performance ;

 

真实图像去噪(real noisy image denoising):

single end-to-end CNN

  设计网络结构对处理真实噪声图像是流行的。把多尺度、Skip connection、batch renormalization、dilated convolutions、attention mechanism融合到CNN中都能有效处理真实噪声图像。

the combination of prior knowledge and CNN

  把CNN和先验知识组合能很好地解决真实噪声图像。验证知识包括HQS、TV和channel prior。

盲去噪(blind denoising):

   利用image device和soft shrinkage和CNN/NN结合能很好地进行blind denoising。

混合噪声图像去噪(hybrid noisy image denoising):

   用warped guidance和CNN组合,单一的CNN以及CNN和iterative algorithm组合都能很好地移除混合噪声。

 

四、实验结果

Datasets

Training Datasets

  BSD400、Waterloo Exploration Database和polyU-Real-World Noisy Images

Test Datasets

  Set12、BSD68、CBSD68、Kodak24、McMaster、CC、DND、NC12、SIDD和Nam

Experimental results

   看论文

 

五、讨论

  深度学习一般在图像去噪上都是提高图像性能、去噪效率和复杂的噪声图像。

  提高去噪性能,有如下解决方法:

  (1)增大网络的感受野能捕获更多上下文信息来提高去噪性能。其中,增加网络宽度和深度是增加感受野最常见的方式,然而,他们会导致高的计算代价和更多内存消耗。空洞卷积能有效解决这个问题。

  (2)CNN和先验结合能提取出更鲁棒的特征。

  (3)组合局部和全局的信息能提高网络的记忆能力。(4)把信号处理机制融合到CNN能更好遏制噪声。(5)数据增加能提高图像去噪性能。(6)迁移学习、图学习和网络搜索能很好处理噪声图像。

  提高去噪效率

  压缩网络能有效地提高去噪的速度。减少网络宽度和深度、利用小的卷积核、组卷积都能有效地提高去噪速度。

  解决复杂的噪声图像

  利用分布机制是非常流行的。第一步利用CNN来估计噪声级别作为ground truth或者恢复高分辨率图像。第二步用来恢复潜在干净图像。

  挑战
  (1)更深的网络需要占用更多内存。

  (2)更深的去噪网络不能稳定地训练真实噪声图像、没有类标的噪声图像的模型。

  (3)真实噪声图像不是容易获得的。

  (4)更深的网络是困难来解决无监督去噪任务。

  (5)寻找更精确的去噪衡量指标。

 本文参考内容:https://mp.weixin.qq.com/s/nmKWJPbedGo1J8-oeIKm2w

  


免责声明!

本站转载的文章为个人学习借鉴使用,本站对版权不负任何法律责任。如果侵犯了您的隐私权益,请联系本站邮箱yoyou2525@163.com删除。



 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM