圖像超分辨率率(super resolution,SR)是指由一幅低分辨率圖像(low resolution,LR)或圖像序列恢復出高分辨率圖像(high resolution,HR)。HR意味着圖像具有高像素密度,可以提供更多的細節,這些細節往往在應用中起到關鍵作用。要獲得高分辨率圖像,最直接的辦法是采用高分辨率圖像傳感器,但由於傳感器和光學器件制造工藝和成本的限制,在很多場合和大規模部署中很難實現。因此,利用現有的設備,通過超分辨率技術獲取HR圖像具有重要的現實意義。
(一)國外研究現狀
超分辨率概念最早出現在光學領域。在該領域中,超分辨率是指試圖復原衍射極限以外數據的過程。Toraldo di Francia在1955年的雷達文獻中關於光學成像第一次提出了超分辨率的概念。復原的概念最早是由J.L.Harris和J.w.Goodman分別於1964年和1965年提出一種稱為Harris-Goodman頻譜外推的方法。這些算法在某些假設條件下得到較好的仿真結果,但實際應用中效果並不理想。Tsai&Huang首先提出了基於序列或多幀圖像的超分辨率重建問題。1982,D.C.C.Youla和H.Webb在總結前人的基礎上,提出了凸集投影圖像復原(Pocs)方法。1986年,S.E.Meinel提出了服從泊松分布的最大似然復原(泊松-ML)方法。1991年和1992年,B.R.Hunt和PJ.Sementilli在Bayes分析的基礎上,提出了泊松最大后驗概率復原(泊松-MAP)方法,並於1993年對超分辨率的定義和特性進行了分析,提出了圖像超分辨率的能力取決於物體的空間限制、噪聲和采樣間隔。
近年來,圖像超分辨率研究比較活躍,美國加州大學Milanfar等人提出的大量實用超分辨率圖像復原算法, Chan等人從總變差正則方面,Zhao等人、Nagy等人從數學方法、多幀圖像的去卷積和彩色圖像的超分辨率增強方面,對超分辨率圖像恢復進行了研究。Chan等人研究了超分辨率圖像恢復的預處理迭代算法。此外,Elad等人對包含任意圖像運動的超分辨率恢復進行了研究;Rajan和Wood等人分別從物理學和成像透鏡散射的角度提出了新的超分辨率圖像恢復方法;韓國Pohang理工大學對各向異性擴散用於超分辨率。Chung-Ang圖像科學和多媒體與電影學院在基於融合的自適應正則超分辨率方面分別進行了研究。Yang等人提出了使用圖形塊的稀疏表示來實現超分辨率。他們從一些高分辨率圖像中隨機選取一些塊組成一個過完備的詞典,接着對於每一個測試塊,通過線性規划的方法求得該測試塊在這個過完備的詞典下的稀疏表示,最后以這組系數加權重構出高分辨率的圖像,這種方法克服了鄰域嵌入方法中對於鄰域大小的選擇問題,即在求解稀疏表示的時候,無需指定重構所需要基的個數,其表示系數和基的個數將同時通過線性規划求解得到。然而,目前該方法的缺陷就在於過完備詞典的選擇,隨機的選擇只能實現特定領域的圖像的超分辨率,對於通用圖像的超分辨率效果較差。
(二)國內研究現狀
國內許多科研院所和大學等對超分辨率圖像恢復進行研究,其中部分是關於頻譜外推、混疊效應的消除,其他主要是對國外超分辨率方法所進行的改進,包括對POCS算法和MAP算法的改進,對超分辨率插值方法的改進,基於小波域隱馬爾可夫樹(HMT)模型對彩色圖像超分辨率方法的改進以及對超分辨率圖像重構方法的改進。
2016年香港中文大學Dong等人將卷積神經網絡應用於單張圖像超分辨率重建上完成了深度學習在圖像超分辨率重建問題的開山之作SRCNN(Super-Resolution Convolutional Neural Network)。SRCNN將深度學習與傳統稀疏編碼之間的關系作為依據,將3層網絡划分為圖像塊提取(Patch extraction and representation)、非線性映射(Non-linear mapping)以及最終的重建(Reconstruction)。重建效果遠遠優於其他傳統算法,利用SRCNN進行超分辨率圖像重建與使用其他方法進行超分辨率重建的效果對比圖如下圖1所示。
圖1 SRCNN圖像重建與其他重建方式效果對比圖
Learning a Deep Convolutional Network for Image Super-Resolution http://mmlab.ie.cuhk.edu.hk/projects/SRCNN.html
論文:
Learning a Deep Convolutional Network for Image Super-Resolution