淺談壓縮感知（二十一）：壓縮感知重構算法之正交匹配追蹤（OMP）

主要內容：

1. OMP的算法流程
2. OMP的MATLAB實現
3. 一維信號的實驗與結果
4. 測量數M與重構成功概率關系的實驗與結果
5. 稀疏度K與重構成功概率關系的實驗與結果

一、OMP的算法流程

二、OMP的MATLAB實現(CS_OMP.m)

function [ theta ] = CS_OMP( y,A,iter )
%   CS_OMP
%   y = Phi * x
%   x = Psi * theta
%    y = Phi * Psi * theta
%   令 A = Phi*Psi, 則y=A*theta
%   現在已知y和A，求theta
%   iter = 迭代次數 
    [m,n] = size(y);
    if m<n
        y = y'; %y should be a column vector
    end
    [M,N] = size(A); %傳感矩陣A為M*N矩陣
    theta = zeros(N,1); %用來存儲恢復的theta(列向量)
    At = zeros(M,iter); %用來迭代過程中存儲A被選擇的列
    pos_num = zeros(1,iter); %用來迭代過程中存儲A被選擇的列序號
    res = y; %初始化殘差(residual)為y
    for ii=1:iter %迭代t次，t為輸入參數
        product = A'*res; %傳感矩陣A各列與殘差的內積
        [val,pos] = max(abs(product)); %找到最大內積絕對值，即與殘差最相關的列
        At(:,ii) = A(:,pos); %存儲這一列
        pos_num(ii) = pos; %存儲這一列的序號
        A(:,pos) = zeros(M,1); %清零A的這一列，其實此行可以不要，因為它與殘差正交
        % y=At(:,1:ii)*theta，以下求theta的最小二乘解(Least Square)
        theta_ls = (At(:,1:ii)'*At(:,1:ii))^(-1)*At(:,1:ii)'*y;%最小二乘解
        % At(:,1:ii)*theta_ls是y在At(:,1:ii)列空間上的正交投影
        res = y - At(:,1:ii)*theta_ls; %更新殘差        
    end
    theta(pos_num)=theta_ls;% 恢復出的theta
end

三、一維信號的實驗與結果（CS_Reconstuction_Test.m）

%壓縮感知重構算法OMP測試
%以一維信號為例
clear all;close all;clc;
M = 64;%觀測值個數
N = 256;%信號x的長度
K = 10;%信號x的稀疏度
Index_K = randperm(N);
x = zeros(N,1);
x(Index_K(1:K)) = 5*randn(K,1);%x為K稀疏的，且位置是隨機的
Psi = eye(N);%x本身是稀疏的，定義稀疏矩陣為單位陣，x=Psi*theta
Phi = randn(M,N);%測量矩陣為高斯矩陣
A = Phi * Psi;%傳感矩陣
y = Phi * x;%得到觀測向量y
%% 恢復重構信號x
tic
theta = CS_OMP(y,A,K);
x_r = Psi * theta;% x=Psi * theta
toc
%% 繪圖
figure;
plot(x_r,'k.-');%繪出x的恢復信號
hold on;
plot(x,'r');%繪出原信號x
hold off;
legend('Recovery','Original')
fprintf('\n恢復殘差：');
norm(x_r-x)%恢復殘差

四、測量數M與重構成功概率關系的實驗與結果（CS_Reconstuction_MtoPercentage.m）

%   壓縮感知重構算法測試CS_Reconstuction_MtoPercentage.m
%   繪制參考文獻中的Fig.1
%   參考文獻：Joel A. Tropp and Anna C. Gilbert 
%   Signal Recovery From Random Measurements Via Orthogonal Matching
%   Pursuit，IEEE TRANSACTIONS ON INFORMATION THEORY, VOL. 53, NO. 12,
%   DECEMBER 2007.

clear all;close all;clc;

%% 參數配置初始化
CNT = 1000; %對於每組(K,M,N)，重復迭代次數
N = 256; %信號x的長度
Psi = eye(N); %x本身是稀疏的，定義稀疏矩陣為單位陣x=Psi*theta
K_set = [4,12,20,28,36]; %信號x的稀疏度集合
Percentage = zeros(length(K_set),N); %存儲恢復成功概率

%% 主循環，遍歷每組(K,M,N)
tic
for kk = 1:length(K_set)
    K = K_set(kk); %本次稀疏度
    M_set = K:5:N; %M沒必要全部遍歷，每隔5測試一個就可以了
    PercentageK = zeros(1,length(M_set)); %存儲此稀疏度K下不同M的恢復成功概率
    for mm = 1:length(M_set)
       M = M_set(mm); %本次觀測值個數
       P = 0;
       for cnt = 1:CNT %每個觀測值個數均運行CNT次
            Index_K = randperm(N);
            x = zeros(N,1);
            x(Index_K(1:K)) = 5*randn(K,1); %x為K稀疏的，且位置是隨機的                
            Phi = randn(M,N); %測量矩陣為高斯矩陣
            A = Phi * Psi; %傳感矩陣
            y = Phi * x; %得到觀測向量y
            theta = CS_OMP(y,A,K); %恢復重構信號theta
            x_r = Psi * theta; % x=Psi * theta
            if norm(x_r-x)<1e-6 %如果殘差小於1e-6則認為恢復成功
                P = P + 1;
            end
       end
       PercentageK(mm) = P/CNT*100; %計算恢復概率
    end
    Percentage(kk,1:length(M_set)) = PercentageK;
end
toc
save MtoPercentage1000 %運行一次不容易，把變量全部存儲下來

%% 繪圖
S = ['-ks';'-ko';'-kd';'-kv';'-k*'];
figure;
for kk = 1:length(K_set)
    K = K_set(kk);
    M_set = K:5:N;
    L_Mset = length(M_set);
    plot(M_set,Percentage(kk,1:L_Mset),S(kk,:));%繪出x的恢復信號
    hold on;
end
hold off;
xlim([0 256]);
legend('K=4','K=12','K=20','K=28','K=36');
xlabel('Number of measurements(M)');
ylabel('Percentage recovered');
title('Percentage of input signals recovered correctly(N=256)(Gaussian)');

五、稀疏度K與重構成功概率關系的實驗與結果（CS_Reconstuction_KtoPercentage.m）

%   壓縮感知重構算法測試CS_Reconstuction_KtoPercentage.m
%   繪制參考文獻中的Fig.2
%   參考文獻：Joel A. Tropp and Anna C. Gilbert 
%   Signal Recovery From Random Measurements Via Orthogonal Matching
%   Pursuit，IEEE TRANSACTIONS ON INFORMATION THEORY, VOL. 53, NO. 12,
%   DECEMBER 2007.
%   
clear all;close all;clc;

%% 參數配置初始化
CNT = 1000; %對於每組(K,M,N)，重復迭代次數
N = 256; %信號x的長度
Psi = eye(N); %x本身是稀疏的，定義稀疏矩陣為單位陣x=Psi*theta
M_set = [52,100,148,196,244]; %測量值集合
Percentage = zeros(length(M_set),N); %存儲恢復成功概率

%% 主循環，遍歷每組(K,M,N)
tic
for mm = 1:length(M_set)
    M = M_set(mm); %本次測量值個數
    K_set = 1:5:ceil(M/2); %信號x的稀疏度K沒必要全部遍歷，每隔5測試一個就可以了
    PercentageM = zeros(1,length(K_set)); %存儲此測量值M下不同K的恢復成功概率
    for kk = 1:length(K_set)
       K = K_set(kk); %本次信號x的稀疏度K
       P = 0;
       for cnt = 1:CNT %每個觀測值個數均運行CNT次
            Index_K = randperm(N);
            x = zeros(N,1);
            x(Index_K(1:K)) = 5*randn(K,1); %x為K稀疏的，且位置是隨機的                
            Phi = randn(M,N); %測量矩陣為高斯矩陣
            A = Phi * Psi; %傳感矩陣
            y = Phi * x; %得到觀測向量y
            theta = CS_OMP(y,A,K); %恢復重構信號theta
            x_r = Psi * theta; % x=Psi * theta
            if norm(x_r-x)<1e-6 %如果殘差小於1e-6則認為恢復成功
                P = P + 1;
            end
       end
       PercentageM(kk) = P/CNT*100; %計算恢復概率
    end
    Percentage(mm,1:length(K_set)) = PercentageM;
end
toc
save KtoPercentage1000test %運行一次不容易，把變量全部存儲下來

%% 繪圖
S = ['-ks';'-ko';'-kd';'-kv';'-k*'];
figure;
for mm = 1:length(M_set)
    M = M_set(mm);
    K_set = 1:5:ceil(M/2);
    L_Kset = length(K_set);
    plot(K_set,Percentage(mm,1:L_Kset),S(mm,:));%繪出x的恢復信號
    hold on;
end
hold off;
xlim([0 125]);
legend('M=52','M=100','M=148','M=196','M=244');
xlabel('Sparsity level(K)');
ylabel('Percentage recovered');
title('Percentage of input signals recovered correctly(N=256)(Gaussian)');

六、參考文章

http://blog.csdn.net/jbb0523/article/details/45268141

更多OMP請參考：淺談壓縮感知（九）：正交匹配追蹤算法OMP