Reservoir Computing
背景：
- 神經網絡的一種彌補RNN缺點
- 神經網 絡方法在具體應用過程中也存在一些局限性 .比如前向 結構的神經網絡一 般不適 合處理與 時序相 關的機 器學 習問題 , 而在實際應用中出 現的問 題往往 與時 間相關 , 比如預測 、系統辨識 、自適應濾波等等 .遞歸神經網絡雖 然可以用於解決時序相關問題 ,但遞歸神經網絡在實際 應用中存在訓練算法過於復雜 、計算量大 、收斂速度慢 以及網絡結構難以確定等 問題 .另 外 , 還存 在記憶 漸消 (Fading Memory)問題 , 隨時間步驟的加長 , 誤差梯度可能消失或者產生畸變 , 所以遞歸神經網絡一般只適合處理短時時序問題 .這些問題都嚴重阻礙了遞歸神經網絡 在實際問題中的應用 .
摘抄
為了減少訓練過程 的計算負 擔以 及克服記憶漸消等問題 , Jaeger 於 2001 年提出回聲狀態網絡(Echo State Networks, ESNs)[1] , Maass 於 2002 年提出流體狀態機 [2](Liquid State Machines , LSMs) .這兩種方法雖然提出的角度不同 , 但其本質都可以認為是對傳統的遞歸神經網 絡訓練算法的改進 .D Verstraeten 等在文獻[ 3] 中以實驗 的方式證明了ESNs和LSMs在本質上是一致的,並將其 統一命名為“儲備池計算”(Reservoir Computing)
總結：
神經網絡方法在具體問題上存在問題
1: 時序問題雖然可以解決， 但存在算法復雜， 計算量大。
2: 收斂速度慢，網絡結構難以確定。
3: 記憶漸消問題：隨時間步驟的加長 , 誤差梯度可能消失或者產生畸變。
RC優勢：
ESNs 最大的優勢是簡化了網絡的訓練過程 , 解決了傳 統遞歸神經網絡結構難以確定,訓練算法過於復雜的問題 , 同時也克服了 遞歸網絡存在的記憶漸消問題
儲備池計算主要理論組成：
- 狀態回聲網絡ESNS：
- 流體狀態機
ESNS數學模型
結構表示
M個輸入
N個處理點
L個輸出
狀態方程和輸出方程
總結
狀態變量 W，輸入輸出對狀態變量的連接權矩陣W(in)，W(back)，三項均為隨機產生， 產生后就固定不變；
W（out）為訓練得到；
f（out）取恆等函數：因為輸出層一般線性；
參考文章片段
計算過程
兩個階段：
- 采樣階段
- 權值計算階段
采樣階段
摘抄：采樣階段首先任意選定網絡的初始狀態 , 但是通 常情況下選取網絡的初始狀態為0 ,即 x(0)=0.訓練樣 本 ( u (n ) , n = 1 , 2 , ... , M ) 經 過 輸 入 連 接 權 W i n , 樣 本 數 據 y (n )經 過 反 饋 連 接 權 W b a c k 分 別 被 加 到 儲 備 池 , 按 照系統(1)狀態方程和輸出方程, 依次完成系統狀態的計算和相 應輸出 y (n )的 計算與收集 .注意每一時刻系統狀態 x (n)的計算 , 都 需要將樣本數據 y(n)寫入到輸出單元 .為了計算輸出 連接權矩陣 , 需要從某一時刻開始收集(采樣)內部狀 態變量 .這里假定從 m 時刻開始收集系統狀態 , 並以向 量(x1(i),x2(i),...,xN(i))(i=m,m+1, ...,M)為行 構 成 矩 陣 B (M - m + 1 , N ) , 同 時 相 應 的 樣 本 數 據 y (n)，也被收集,並構成一個列向量 T(M -m +1,1).這里需 要說明的是 :
(1)如果系統包含有輸入到輸出 、輸出到輸出的連 接權 , 那么在收集系統的狀態矩陣 B 時 , 還需要 收集相 應的輸入和輸出部分 ;
(2 ) 為 了 消 除 任 意 初 始 狀 態 對 系 統 動 態 特 性 的 影 響 , 總是從某一時刻后才 開始收 集系統的 狀態 .從 該時 刻開始 , 可以認為系統反 映的是 輸入 、輸出 樣本數 據之 間的映射關系 .
權值計算階段
儲備池的優化
GA；使用進化算法對參數進行優化；
尋優參數包括三個 :
- 儲備池規模 Nx ,
- 內部連接權矩陣的譜半徑 ρ(W),
- 內部連接權矩陣的 稀疏度
缺點：
遺傳算法本身的搜索盲目性導致計算量 過大 , 以及容易陷入局部最優的問題限制了其在儲備池參數優化的應用
基於隨機梯度下降法的儲備池參數優化
比經典 ESNs 更為一般的形式 : x(n +1)=(1 -αΔt) x(n) + Δt f (Winu(n +1) + Wx(n) )
同時也引入了兩個全局參數 Δt 和 α, 其中 Δt 是離散化，時間間隔與系統時間常數的比值, α叫做decay rate .
進而建立了針對全局參數 Δt 和 α的隨機梯度下降優化算法 .
參考文章：
儲備池計算概述彭 宇 1 , 王 建 民 1 , 2 , 彭 喜 元 1