淺談壓縮感知（三）：幾何解釋

主要內容：

1. 信號的稀疏表示模型
2. 壓縮測量
3. RIP性質
4. 恢復重建

    

   1. 一、信號的稀疏表示模型

      信號在某個空間是非稀疏的，如果變換到某個空間，即可變成稀疏的。

      稀疏信號表示有極少的非零系數。

      如下圖，左邊表示X信號在R3空間中只有一個非0系數，右邊表示X信號在R3空間只有兩個非0系數。

      

      如果信號是稀疏的，那么就沒必要采集那些在空間系數為0的值。相反，只采集少量的非零系數，而允許一點不確定性。

      然后通過稀疏模型來重建信號，並解決不確定性的問題。

   2. 二、壓縮測量

      壓縮測量：即將稀疏信號（K-Sparse）從N維空間通過線性投影到M維空間當中。M<<N

      過程：Y=Φ*X

      Y即線性投影后的測量值；

      Φ即測量矩陣；

      X 即信號；

      

      測量矩陣需滿足的性質：

      必要性：必須有2*K行

      有效性：2*K行的高斯隨機矩陣

      

      測量過程：從信號x到測量值y的線性投影過程

      N維空間到M維空間映射的幾何模型：

      

      舉個簡單的小例子，來說明測量矩陣的選擇問題：

      

      此處的測量矩陣應該如何選擇呢？考慮以下幾種情況：

      

      

      上述的矩陣過於簡單，但主要說明的問題就是：測量矩陣所在的空間基向量與信號的稀疏基向量必須滿足一定的不相關性。

      下面介紹測量矩陣理論上需要滿足的性質：

   3. 三、RIP性質

      Restricted Isometry Property（aka UUP）

      對於K-sparse 信號x，如果測量矩陣滿足以下關系，則稱測量矩陣滿足K階RIP性質。

      

      對於K-sparse x1和x2信號而言，測量矩陣滿足2K階RIP性質則意味着：

      

      

      關於上面這些公式，我也不明白其中的含義。

      在實際中呢，我們也不可能通過上面的公式去驗證測量矩陣的有效性，上面的公式只是提供了一個理論支撐而已。

      實踐證明，下面的一些隨機矩陣在滿足的情況下，可以以很大的概率來滿足測量的需求：

      

   4. 四、恢復重建信號的幾何模型

      L0模型：

      信號的稀疏性對應的就是非零系數的最小化，因此通過L0來建模是可行的，

      但L0建立的數學模型是不可微的，不能用梯度法，因此一般采用貪心的方法來求解。

      

      L2模型：

      L2范式建立的數學模型求解出來的恢復信號並不是稀疏的，而是很多小分量。因此，在壓縮感知中，不太適合用來建模。

      

      L1模型：

      數學家們已經證明，在某種程度上，L1模型等價於L0模型。

      

      L1模型與L0模型的等價性證明：