论文地址:https://arxiv.org/pdf/1912.13171.pdf
一、背景与动机:
数字图像设备已经被应用在天气预测、灾难救援、安全监控与医学诊病等多个领域。然而数字设备常受到相机抖动、运动的物体、暗光和噪声等影响而导致捕获的照片不干净。因此图像去噪技术的研究具有重要的理论和实际应用价值。
图像去噪技术在20世纪90年代已经成为研究热点。例如:用非局部相似性来优化稀疏方法能提高去噪的性能。字典学习有助于快速移除噪声。先验知识通过平滑噪声图像来恢复潜在干净图像的细节。更多竞争去噪方法包括MRF 、WNNM 、LSSC、CSF 、TNRD和GHEP能被利用。
虽然这些大部分方法在图像去噪上能达到好的性能,但是他们有以下缺点:
(1) 在测试阶段涉及复杂优化方法,
(2) 手动设置参数,
(3) 一个固定的模型来处理单个去噪任务。
拥有灵活的结构,强的自学习能力的深度学习技术能用来解决这些不足。
二、深度学习在图像去噪方面的基础框架
Machine learning methods for image denoising:
有监督与无监督机器学习
Neural networks for image denoising:
Convolutional neural networks for image denoisin:
VGG、GeogLeNet、ResNet、GAN
Hardware and software of deep learning techniques:
三、深度学习在图像去噪中的应用
外加白噪声图像去噪(additive white noisy-image denoising):
CNN/NN for AWNI denoising
根据噪声的属性设计不同网络结构是极为关键的,设计网络结构有以下方式:
(1)利用多视角来设计网络;包括三种类型:一幅噪声图像作为多个子网络的输入;一个样本的不同角度作为网络的输入;一个网络的不同通道作为输入。
(2)改变Loss函数;
(3)增加CNN的宽度或者深度;
(4)在CNN中增加任意的插件;任意插件包括激活函数、空洞卷积、全连接层和池化层等
(5)在CNN中使用跳跃连接 (Skip connection)或者级联操作(Cascaded operations);包括skip connection和cascaded operation。
CNN/NN and common feature extraction methods for AWNI denoising
That can be divided into five categories: weak edge-information, non-linear, high dimensional and non-salient noisy images, and high computational costs.
对于weak edge-information noisy images来说,CNN with transformation domain method来移除噪声是非常有效的。
对于non-linear noisy images来说,CNN with kernel method在恢复潜在干净图像是非常有效的。
这类方法一般有三步:
第一步用CNN来提取特征,
第二步用核方法把非线性特征转为线性特征,
第三步利用残差技术来重构潜在的干净图像。
对于high dimensional noisy images来说,CNN和降维方法的组合是常用的去噪方法。
对于non-salient noisy images来说,信号处理方法能引导CNN来提取显著的特征。
对于high computational cost, CNN和图像的属性结合能有效地降低复杂度。
The combination of optimization method and CNN/NN for AWNI denoising:
1) improvement of denoising speed;
2)Improvement of denoising performance ;
真实图像去噪(real noisy image denoising):
single end-to-end CNN
设计网络结构对处理真实噪声图像是流行的。把多尺度、Skip connection、batch renormalization、dilated convolutions、attention mechanism融合到CNN中都能有效处理真实噪声图像。
the combination of prior knowledge and CNN
把CNN和先验知识组合能很好地解决真实噪声图像。验证知识包括HQS、TV和channel prior。
盲去噪(blind denoising):
利用image device和soft shrinkage和CNN/NN结合能很好地进行blind denoising。
混合噪声图像去噪(hybrid noisy image denoising):
用warped guidance和CNN组合,单一的CNN以及CNN和iterative algorithm组合都能很好地移除混合噪声。
四、实验结果
Datasets
Training Datasets
BSD400、Waterloo Exploration Database和polyU-Real-World Noisy Images
Test Datasets
Set12、BSD68、CBSD68、Kodak24、McMaster、CC、DND、NC12、SIDD和Nam
Experimental results
看论文
五、讨论
深度学习一般在图像去噪上都是提高图像性能、去噪效率和复杂的噪声图像。
提高去噪性能,有如下解决方法:
(1)增大网络的感受野能捕获更多上下文信息来提高去噪性能。其中,增加网络宽度和深度是增加感受野最常见的方式,然而,他们会导致高的计算代价和更多内存消耗。空洞卷积能有效解决这个问题。
(2)CNN和先验结合能提取出更鲁棒的特征。
(3)组合局部和全局的信息能提高网络的记忆能力。(4)把信号处理机制融合到CNN能更好遏制噪声。(5)数据增加能提高图像去噪性能。(6)迁移学习、图学习和网络搜索能很好处理噪声图像。
提高去噪效率
压缩网络能有效地提高去噪的速度。减少网络宽度和深度、利用小的卷积核、组卷积都能有效地提高去噪速度。
解决复杂的噪声图像
利用分布机制是非常流行的。第一步利用CNN来估计噪声级别作为ground truth或者恢复高分辨率图像。第二步用来恢复潜在干净图像。
挑战
(1)更深的网络需要占用更多内存。
(2)更深的去噪网络不能稳定地训练真实噪声图像、没有类标的噪声图像的模型。
(3)真实噪声图像不是容易获得的。
(4)更深的网络是困难来解决无监督去噪任务。
(5)寻找更精确的去噪衡量指标。
本文参考内容:https://mp.weixin.qq.com/s/nmKWJPbedGo1J8-oeIKm2w