【來源】:
超星視頻 > 超星課堂 > 計算機系統結構 > 計算成像與超分辨率圖像重建
有計算機參與的成像行為都可以認為是計算成像。
Computational Imaging(Photograph)
傳統成像是所見即所得
借助計算機對圖像重建、還原。計算成像能夠實現傳統成像無法完成的任務:如去除運動模糊、超分辨率成像。
研究比較多的:
- 照明方面的計算成像(Computational illumination),對快門編碼(coded exposure)編碼曝光。曝光時間、積分時間得到圖像。
- 光學方面的計算成像(Computational optics),對孔徑編碼(coded aperture)aperture光圈、光闌,F數:鏡頭F1.2分辨率很高了,F2.8沒法和1.2比。
- 信號處理方面的計算成像(Computational processing),non-optically coded images
- 探測器上的計算(Computational sensors),硬件上的探測器將探測與信號處理結合。
阿貝成像原理(Abbe):二次衍射成像理論。目標在像平面上成像,最開始會有一個頻率分配的問題,目標上面每一點都會出現若干頻率的信號,經過光學系統,再經過焦平面再對頻率進行進一步的分配,最后在像平面上成像。
提出了顯微鏡分辨率存在上限,即光學衍射極限。很難突破200nm。可以利用隨機介質成像來突破200nm。衍射受限系統,只有孔徑之內的頻率可以進來,超出孔徑之外的頻率進不來。頻率,是看作光柵形式,光柵以波長為單位,可以計算出頻率,大概算出光學系統的分辨率。
阿貝原理提出:顯微鏡的分辨率和光的波長、顯微鏡物鏡孔徑的關系式。
編碼曝光:(coded exposure)
人眼可以容忍噪聲,忍受不了模糊。運動模糊=原圖*卷積上曝光時間PSF。
PSF中可以發現會有很多零值(0)或接近零的值。PSF本身是sinc函數。g=f*h,復原的時候,進行逆卷積的時候會有除0的情況,圖像恢復的噪聲很嚴重,得不到正確的信息,因此效果不好。這種方式去模糊,模型找的很好,但計算方法有問題。
對曝光進行編碼,讓PSF值不再為0。broadband function。
曝光就是光圈和快門的組合:一張正確曝光的圖片可以有N種不同的光圈和快門速度組合,可以這樣認為:光圈(值)大小其實就是那個小圓窗戶開多大,快門(速度)就是窗戶打開多久。假設窗戶只打開1/4,時間為4秒鍾可以正確曝光的話,很顯然,窗戶打開一半,時間2秒鍾也能讓底片正確曝光,因為1/4*4=1/2*2=1,進光量都是一樣多。
光圈與F數相關知識 - ostartech - 博客園 https://www.cnblogs.com/wxl845235800/p/9436071.html
編碼孔徑(coded aperture):
五邊形孔徑:對模糊圖像重建,選取不合適的尺寸(大不好、小還可以)合適尺寸好的。合適不合適與否是人主觀來看的,計算機分辨不出來。
如果利用編碼孔徑,不合適的尺寸(大、小都不好)是錯的,只有合適尺寸才是對的。
這時可以把圖像模糊的程度精確的估計出來,用來做全景深圖像的恢復。拍攝圖像對其重聚焦。
利用不同孔徑對圖像深度來進行估計。優化,可以用不同顏色來體現目標在場景中的不同深度。
傳統的編碼孔徑成像:
來源於小孔成像,多個孔的成像重疊。
編碼模板可以是二值可以是多值(可以使用液晶調制方式來形成)。用二值的編碼模板結果處理后噪聲多,而多值編碼模板噪聲少。
選用合適大小的孔徑重建。
目標經過編碼模板成像,可以理解為是若干個小孔成像疊加。
壓縮編碼孔徑成像:
利用壓縮感知理論,(Compressive Sensing,Compressed Sampling,CS),在光學成像系統中加入隨機編碼孔徑,作為預測矩陣,實現壓縮感知采樣。做了降采樣,目的是來完成超分辨率重建。
采樣是在低分辨率CCD上完成的,通過CS理論的圖像超分辨率重建,可以獲得4x及以上的高分辨率圖像。
編碼過程成像公式:加入了,D降采樣。Y是得到圖像的頻譜,X是原圖像拍攝所得目標,H是編碼孔徑,e是噪聲。和一般的成像公式其實是一致的。只不過多加了降采樣的操作,分為m個小塊。
解碼過程(逆卷積)公式:
成像過程:目標經過編碼孔徑模板成像,會有很多像,這些像疊加在一起。即若干個小孔成像疊加在一起,再經過計算機解碼,得到復原圖像。
壓縮感知理論:在一維成立,二維不一定成立。所以在對圖像壓縮編碼孔徑時,要把其從二維展到一維操作,這個過程應該講是不嚴格的,因此壓縮編碼理論已經慢慢不是很熱門了。但是壓縮編碼中的方法很多在擴展的應用:光譜成像中。
二值模板,多值模板。
分時壓縮編碼孔徑成像:連續多次拍攝場景,更換不同模板(觀測矩陣是不同的),結果會更好。CCD分辨率可以更低。可以重建出更高分辨率圖像。
原圖->1/4采樣->壓縮編碼孔徑成像進行超分辨率重建
隨機散射SR成像:
隨機散射介質可以擴展透過光學系統的空間帶寬,在光學系統中加入隨機介質,可以增大光學系統的數值孔徑(NA)。
論文:2007年,Random Projections Imaging with Extended Space-band width Product。
在透鏡前面加上隨機介質,毛玻璃。成像不清晰,但PSF可以變得更窄,帶寬可以進入更多。
這種理論在90年代末,已經有人在聲學方面做散射類似研究。
借助壓縮感知理論進行重建。
量子成像:
鬼成像,利用光源及探測光場的非經典量子特性獲取圖像信息。
應用於空間遙感領域,可大大降低空間平台上成像系統的復雜性,特別適合於微小衛星遙感應用。
利用糾纏光子成像難題:糾纏光源的產生、糾纏光子的傳輸、糾纏光子的檢測、量子圖像的重建。
增大景深:
全景深:傳統利用小光圈獲得大景深,但曝光時間要很長,同時還有其他很多問題。
利用編碼孔徑方式精確估計出各個的模糊程度,用不同的孔徑對深度進行估計。目標在場景中不同深度。
增大景深與全景深成像 - ostartech - 博客園 https://www.cnblogs.com/wxl845235800/p/9408684.html
光場相機:
見 ,光場相機 - ostartech - 博客園 https://www.cnblogs.com/wxl845235800/p/9042374.html
【其他文獻】
寫的很棒的一篇綜述類博客:計算攝像學研究 https://blog.csdn.net/XWUkefr2tnh4/article/details/78955485
【筆記來自於】
在超星上的其他學術視頻:光電成像、計算成像。