極化碼之高斯近似

我們知道，極化碼的誕生在伴隨着“到達香農限”的光榮頭銜的同時，也遺憾的存在許多缺點。

極化碼有兩大法寶——低復雜度和高可靠性。其中高可靠性的前提條件為“碼長較長時”，在短碼領域，由於信道極化的不充分，極化碼並不能很好的逼近香農限。低復雜度也有前提條件，就是它是基於BEC（二元刪除信道）提出的，在BEC信道下，極化碼的編碼和譯碼都具有較低的復雜度。然而，在其他信道上我們不得不采用各種近似手段，如蒙特卡洛法、密度進化法等，這些方法的引入使得極化碼的低復雜度特點受到一定的沖擊。

在上一章節的極化碼編碼之中，我們提到了高斯近似這個構造極化碼的重要方法。本節，我們來詳細介紹一下在AWGN信道下，如何利用高斯近似法克服極化碼“水土不服”的高傲特性。

AWGN信道

　　AWGN（加性高斯白噪聲）是無線通信中非常常見的一種噪聲模型，噪聲的幅度服從正態分布，功率譜密度均勻分布。以AWGN為噪聲的信道稱為AWGN信道，是通信系統之中經常用到的一個理想信道模型。

 

假設

　　我們在AWGN信道下，采用BPSK調制，以極化碼作為信道編碼方案，傳輸一組信息。

 

預備知識

　　假設輸入符號集為X，則X={0,1}。

　　假設輸出為y，則根據BPSK調制原理，

　　其中，n為噪聲變量，服從高斯分布：

　　根據概率論中的知識，由期望和方差的性質可以發現，y也是一個高斯隨機變量，且，其中m取值為±1。

　　根據高斯分布概率密度函數，高斯隨機變量y的概率密度可以表示為：　　對於AWGN信道，信道的轉移概率為W(y|x)。我們在接收端得到一個y值，與之對應的x有兩種可能——{0,1}。於是有：　　我們對y通過似然判決法進行解碼，設似然比LR為：

　　將上面兩個式子代入分式之中，得到：　　定義對數似然比LLR=log LR，則：　　因為1/σ^2可以視為常數，因此發現LLR也是一個高斯隨機變量，易得：

 

對稱一致條件

　　對於一個隨機變量n，如果其概率密度函數滿足：

　　我們稱這個變量滿足“對稱一致條件”

　　滿足對稱一致條件的隨機變量的方差是均值的兩倍。

　　令m=1，也即假設發送端發送的全都是0。LLR的均值變為方差的一半，我們可以把LLR的密度函數表達式代入上式檢查一致性，結論是LLR符合對稱一致條件。

　　上面鋪墊的已經差不多了，我們現在引入高斯近似法的結論/定理/假設：

高斯假設

　　大家可以看到，這是我直接從論文中截出來的圖。我所參考的兩篇論文均來自於同一位作者，中英兩版各有側重。論文標題放在這里，感興趣的可以自己去看：

　　【1】《極化碼構造與譯碼算法研究》吳道龍[著]

　　【2】《Construction and Block Error Rate Analysis of Polar Codes Over AWGN Channel Based on Gaussian Approximation》by Daolong Wu etc

　　下面我們探討如何證明這個假設，以及這個假設如何能夠應用到極化碼的構造之中。

　　首先我們來定義一種全新的運算

box plus

　　“”，這個運算為box plus，很形象。定義式：

 　　觀察等式右邊的分式，發現它與Arikan遞推公式在形式上非常相似：　　對於似然比LR：　　根據對數似然比的定義，由LLR = ln LR得到LR = e^LLR，我們發現，LLR滿足box plus的形式。

　　我們將LR映射到其對數域LLR中，並重新改寫Arikan遞推公式：　　先來觀察j=1時的情況。　　對於這個式子，觀察等式右邊的兩個因子。根據遞推公式，我們可以得到：　　於是，我們得到：

　　根據我們之前所得到的結論，當我們傳輸全0比特時，LLR服從高斯分布，且符合對稱一致條件。上式中，從L₁到L_N都具有這種屬性。

　　根據高斯近似定理：可以用一個高斯隨機變量進行近似，均值為。

　　我們知道，Arikan遞推公式有兩個，剛才我們只是對第一個做了近似，那么第二個呢？

　　同樣我們把原公式映射到對數域中，寫出i=1時的形式：　　觀察這個式子，從這里可以體現高斯假設中“假定前i-1個比特都正確解碼”這個條件的作用。因為我們假定全0傳輸，當前i-1個比特解碼成功有，於是，上面公式的指數項消失。由於相加的兩個因子都是滿足對稱一致條件的高斯隨機變量，因此也是一致高斯隨機變量，服從方差為均值二倍的高斯分布。

　　這是一個特例，從其中我們可以發現，無論i是奇數還是偶數，對應的信道我們都能用高斯近似的辦法使得該信道的對數似然值成為一致高斯隨機變量。

　　推廣來說，通過遞推手段，我們可以得到第i個信道的對數似然值的均值：

　　對於，當i為奇數時：

　　當i為偶數時：　　基於上面的分析，我們可以得到下面的結論：

　　（全0發送時）當之前的i-1個比特全都正確譯碼，SC譯碼的第i個比特的譯碼對數似然比LLR為一個一致高斯隨機變量，設對數似然比均值為E，則LLR~N(E,2E)。由此，根據BPSK調制下的誤碼率性能公式：

　　其中，r為信噪比，，a為均值，σ_n²為噪聲方差。

　　可以得到，第i個比特的錯誤概率為：

　　其中，為一個事件集合。

　　到這里，高斯假設已經被證明。那么，這個假設又是如何引用到極化碼的構造之中的呢？我們繼續來探討。

　　定義事件為“一組長度為N的碼塊發生了錯誤”，則表示發生誤組事件的概率。容易得到：　　很明顯，我們如果想要誤組率盡可能的小，可以讓盡可能的小。根據的表達式，由於互補誤差函數erfc()是單調遞減的，所以我們要讓E盡可能的大。

　　我們得到了一條關鍵的線索，為了構造錯誤盡可能小的極化碼，問題轉化為尋找盡可能大的E。沿着這一思路，我們只需要想辦法求出所有信道的E形成參數向量，然后對參數向量進行排序，再根據給定的碼率選擇E較大的那一部分信道作為信息位，就能夠實現我們的目的。

　　求E的步驟很好理解，它跟我們的SC譯碼非常相似，我們從解碼圖的最右側開始求起。

　　對於解碼圖的最右側一列，我們已經證明他們的對數似然比全都是一致高斯隨機變量，符合高斯分布。

　　然后我們開始往左側遞推，i為奇數時使用近似公式，i為偶數時直接乘以二倍。迭代求解，直至求得所有信道的對數似然值均值。

性能與復雜度

　　高斯近似的性能怎么樣，這種辦法靠不靠譜？

　　

　　圖片引用自論文《Construction and Block Error Rate Analysis of Polar Codes Over AWGN Channel Based on Gaussian Approximation》

　　可以看到，與蒙特卡洛法相比，高斯近似法在誤碼性能上表現的還可以，基本能夠與蒙特卡洛法比肩。

　　在復雜度上，蒙特卡羅法復雜度為O(NlogN)，而密度進化與高斯近似復雜度均為O(n)。

 　　從復雜度和誤碼性能上綜合來看，高斯近似無疑更加適用於高斯信道下的極化碼構造。