1.離散信源的分類和數學模型
在離散時間發出離散符號的信源稱為離散信源。如果信源符號集為有限集，則稱為有限離散信源。如果信源符號集為無限可數集，則稱為無限離散信源。
離散無記憶信源的N次拓展源：設信源為X，則由X構成的N維隨機矢量集合XN = X1X2X3...XN(其中Xi與X同分布)，稱為信源X的N次擴展源。
2.離散無記憶信源的熵
2.1離散平穩信源 若具有有限符號集A={a1,a2,a3,...,an}的信源X產生的隨機序列{xi},i=...1,2...且滿足：對所有的i1,i2,...in,h,j1,j2,...,jn及xi ε X,有p(xi1=aj1,xi2=aj2,xi3=aj3,...xi N=ajN) = p(xi1+h=aj1,xi2+h=aj2,...,xin+h=ajn)則稱信源為離散平穩信源，所產生的序列為平穩序列。平穩序列的統計特性與時間的推移無關，即序列中符號的額任意維聯合概率分布與時間起點無關。
2.2離散平穩有記憶信源的熵 設X為離散平穩有記憶信源，X的N次擴展源記為XN, XN=X1X2X3...XN. 根據熵的可加性，有H(XN)=H(X1X2X3...XN)=H(X1)+H(X2|X1)+...+H(XN|X1...XN-1)
定理1：對任意離散平穩信源，若H1(X)<∞,有以下結論：（1）H(XN|X1...XN-1)不隨N而增加;（2）HN(X)≥H(XN|X1...XN-1); (3) HN(X)不隨N而增加；(4)H∞(X)存在，且H∞(X)=limH(XN|X1...XN-1); 式（4）表明，有記憶信源的符號熵也可以通過計算極限條件熵得到。
3.有限狀態馬爾可夫鏈
3.1馬氏鏈的基本概念
設信源的符號集為{a1,a2,..,aq},信源的輸出序列為x1,x2,...,xN,如果其中每個隨機變量xn僅通過最接近的變量xn-1依賴於過去的隨機變量xn-1,xn-2,...,即對所有的i,j,k,...有p(xn=j|xn-1=i,xn-2=k,...,x0=m ) = p(xn=j|xn-1=i) 則稱{xn,n≥0}為馬爾可夫鏈，簡稱馬氏鏈。 p(xn=j|xn-1=i,xn-2=k,...,x0=m ) = p(xn=j|xn-1=i) 定義的是一階馬氏鏈，此時隨機變量xn也稱作馬氏鏈在n時刻的狀態。 換一句話說就是：信源在時刻n處於某一狀態的概率，在時刻n-1的狀態下與過去的其他時刻的狀態無關，即當下狀態只和前一個狀態有關。
類似的可以定義m階馬氏鏈，即信源輸出某一符號的概率與以前的m個符號有直接關系，則此時m個信源符號組成的所有的可能的序列就對應於信源全部可能的狀態{1,2,3,...J}，這里J= qm.
馬氏鏈是時間離散，狀態也離散的馬氏過程。如果狀態集合為有限集，則稱為有限狀態馬氏鏈；如果狀態集合為無窮可數集，則稱為無窮狀態馬氏鏈。
3.2齊次馬氏鏈
齊次馬氏鏈是具有平穩轉移概率的馬氏鏈。若馬氏鏈轉移概率與起始時刻無關，則稱為齊次馬氏鏈。很明顯，齊次馬氏鏈的轉移概率矩陣與起始時刻也無關，從狀態i經k步轉移到狀態j的概率可寫成Pij.
齊次馬氏鏈可以用轉移概率矩陣、網格圖和狀態轉移圖來描述。 注意轉移概率矩陣與狀態轉移圖的對照。
3.3，馬氏鏈的狀態分類
對於一個有限狀態的馬氏鏈，如果狀態i是經過有限步驟后遲早要返回的狀態，則稱狀態i是常返態。 不是常返態的狀態稱為過渡態，即若存在某狀態j經過若干步以后總能到達某一其他狀態，但不能從其他狀態返回，則稱狀態j是過渡態。
如果馬氏鏈中任何兩個狀態互通，則此馬氏鏈是不可約的。一個有限馬氏鏈按互通關系所分成的子集中的狀態要么是常返的，稱為常返類。要么是過渡的，稱為過渡類。一個有限馬氏鏈至少有一個常返類和若干個過渡類。
而常返態又可以分為周期的或者遍歷的。主要看d,d>1就是周期的；d=1就是遍歷的。其實如果這個子集中有自返的子集，那么這些子集中的元素就是遍歷的了。
3.4馬氏鏈的平穩分布
平穩分布的“平穩分布列矢量”，經過狀態轉移是不變的。如果起始狀態的概率分布不是平穩分布，則馬氏鏈是不平穩的。但是，對於遍歷馬氏鏈，無論初始狀態如何，當轉移步數足夠大時，狀態概率分布總會趨於平穩分布，與初始狀態概率分布無關。
結論：（1）對於有限狀態馬氏鏈，平穩分布恆存在。（2）如果馬氏鏈中僅存在一個常返類，則πT=πTP的解是唯一的；如果存在r個常返類，則具有r個線性獨立的矢量解。(3)如果馬氏鏈中僅存在一個或多個常返類而且是非周期的，那么Pn也收斂。 如果馬氏鏈有一個或多個周期常返類，則Pn不收斂。