1.3 信息的度量及性能指標

信息：消息中包含的有效內容

度量信息量的原則：

---

 

 

1. 能度量任何消息，並且與消息的種類無關。
2. 度量方法應該與消息的重要程度無關。
3. 消息中所含信息量與消息內容的不確定性有關。

 

 消息所表達的事件越不可能發生，信息量越大。

度量信息量的方法：

事件的不確定程度可以用其出現的概率來描述。

消息出現的概率越小，則消息中包含的信息量就越大。

 

 信息量的定義：

 

 

 在工程應用中，習慣將一個二進制碼元稱作1比特。

 

 

 

 

 用熵的概念：

 

 

 連續消息的信息量：

 

 通信系統主要性能指標：

---

 

 模擬通信系統

 

 數字通信系統