模糊認知圖基礎知識

模糊認知圖（Fuzzy Cognitive Map，FCM）基本結構與原理

結構

1. 基本的關系：

　　模糊認知圖(FCM) = 模糊邏輯(Fuzzy logic) + 神經網絡(Neural Network)

2. 組成結構^[1]

　　模糊認知圖是有向圖，它由表示概念(concept)的節點和帶有權值(weight)的弧線組成。模糊認知圖中的所有值都是模糊值，比如可以取值：concept value ∈ [0,1]   weight value ∈ [-1,1]。一個concept可以影響其他的concept，同時，可以在構造模糊認知圖的過程中不斷增減互連關系或concept。一個具有n個概念節點的模糊認知圖，可以用一個nxn階矩陣W唯一確定。

 

原理

　　每個concept都代表着系統的一項特征，它們可能用於表征系統中事件、行為、目標等。每個concept的值用一個數字A_i表示，這個值由系統變量的真實值轉換而成。

　　兩個concept：C_i與C_j之間的關系分三種情況：

　　　　W_ij > 0 　　C_i與C_j正相關

　　　　W_ij < 0 　　C_i與C_j負相關

　　　　W_ij = 0 　　C_i與C_j無因果關系

　　影響當前concept值(A_i)的因素有：該concept前時刻的值A_i^old + 所有與它相連的其它concept值乘以權值后的總和。

 

基本的應用方法

1. 首先由若干專家確定最適合描述該系統的concept（可以是系統的特征、狀態、變量、系統的輸入或輸出等），並給定一個模糊值（fuzzy value）來表征concept之間的互連關系（正/負相關）

2. 以上提到的模糊值（權值）需要考慮：

　　a. 權重的符號，C_i是否會影響C_j

　　b. C_i對C_j的影響程度

 反之亦然。

3. 然后整合這些專家的意見，此時需要給每位專家一個信譽值（credibility），在整合前，給每位專家的FCM乘以他們對應的信譽值。

4. 經過初始化后的FCM，其中的concept根據設定會相互影響，直到：

　　a. 到達平衡 或

　　b. 到達限定周期 或

　　c. 出現混沌行為

以上的結果是：構造單個FCM

但有時，我們還需構造多個FCM去描述系統的不同模塊，然后用類似的方法將它們集成到一個增強的FCM中。

 

tip: 當構造多個不同模塊的FCM（如兩層FCM）后，其中某個FCM中的部分concept可能會影響其他FCM的concept。

訓練方法

目的：調整權值weight

可能的方法：

　　a. Differential Hebbian learning (DHL，微分Hebbian學習方法)是一種無監督的學習方法，未在實際系統中廣泛運用^[2]。

　　b. Nonlinear Hebbian learning (NHL，非線性Hebbian學習方法)^[3]

　　　　非線性 Hebbian 算法是一種無監督權值學習方法，在系統權值學習具有廣泛的應用。它利用權值關聯的原因節點狀態值與結果節點狀態值的乘積對連接權值進行無向修正 , 沒有其他約束條件來提高學習效率和模型准確度。

四種非監督學習方法^[4]

1. Signal Hebbian

• 關聯局部神經元信號。
• 如果神經元i和神經元j同步激活，則突觸能量增強或突觸能量減弱。

2. Competitive

• 用0-1競爭信號（神經元j的信號）調制信號突觸差異。
• 突觸只在突觸后神經元獲勝時才學習。
• 突觸后神經元編碼突觸前信號模式。

3. Differential Hebbian

• 關聯信號速度和神經元信號。
• 通過神經元信號的微分獲得信號速度。

4. Differential Competitive

• 結合Competitive和Differential Hebbian
• 僅在有變化時學習

---

 

神經網絡的基本結構與原理

結構

原理^[5]

1. 隨機生成神經元間的權值

2. 對輸入層神經元的數據加權求和再用激勵函數激活，得到隱藏層的值

3. 用類似的方法加權求和並激活，得到輸出層的值

4. 計算以上得到的輸出層的值，與訓練集中數據相比的誤差大小（誤差趨近於0收斂）

5. 根據誤差大小，計算殘差

6. 輸出層殘差值加權求和，得到隱藏層的殘差

7. 隱藏層殘差加權求和。。。

8. 根據殘差值調整權值

如何進行訓練

如以上，梯度下降法

Reference

[1] Stylios C , Georgopoulos V C , Groumpos P P . The Use of Fuzzy Cognitive Maps in Modeling Systems[C]// 5th IEEE Mediterranean Conference on Control and Systems. IEEE, 1997.

[2] 陳寧, 彭俊潔, 王磊,等. 模糊灰色認知網絡的建模方法及應用[J]. 自動化學報, 2018, v.44(07):77-86.

[3] Elpiniki Papageorgiou, Chrysostomos Stylios, Peter Groumpos. Fuzzy Cognitive Map Learning Based on Nonlinear Hebbian Rule[M]// AI 2003: Advances in Artificial Intelligence. Springer Berlin Heidelberg, 2003.

[4] Neural Networks and Fuzzy Systems課程ppt

[5] https://www.cnblogs.com/cxhzy/p/10891137.html