參考鏈接:
http://www.cnblogs.com/zhangchaoyang/articles/2591663.html 系統介紹了RBF network
https://www.zhihu.com/question/44328472 知乎 RBF網絡和BP網絡區別
徑向基函數(Radical Basis Function,RBF)。徑向基函數(Radical Basis Function,RBF)方法是Powell在1985年提出的。所謂徑向基函數,其實就是某種沿徑向對稱的標量函數。通常定義為空間中任一點x到某一中心c之間歐氏距離的單調函數,可記作k(||x-c||),其作用往往是局部的,即當x遠離c時函數取值很小。
RBF Kernel 有什么特點:
圖一 Radial Basis Function
圖二 Plot of Radial Basis Function with 2D input
圖三 RBF 使樣本點只被附近(圈內)的輸入激活
RBF 和 BP network 區別:
BP神經網絡的隱節點采用輸入模式與權向量的內積作為激活函數的自變量,而激活函數采用Sigmoid函數。各隱節點對BP網絡的輸出具有同等地位的影響,因此BP神經網絡是對非線性映射的全局逼近。
RBF神經網絡的隱節點采用輸入模式與中心向量的距離(如歐式距離)作為函數的自變量,並使用徑向基函數(如Gaussian函數)作為激活函數。神經元的輸入離徑向基函數中心越遠,神經元的激活程度就越低。RBF網絡的輸出與數據中心離輸入模式較勁的“局部”隱節點關系較大,RBF神經網絡因此具有“局部映射”特性。
BP網絡最常用的神經元是perceptron,最流行的用法是多層perceptrons.如下圖所示:
RBF網絡:神經元是一個以gaussian函數(或者其他)為核函數的神經元
RBF Network 通常只有三層。 輸入層、中間層計算輸入 x 矢量與樣本矢量 c 歐式距離的 Radial Basis Function (RBF) 的值,輸出層算它們的線性組合
第一階段為非監督學習,從數據中選取記憶樣本(圖四中的紫色中心)。例如聚類算法可在該階段使用。
第二階段為監督學習,訓練記憶樣本與樣本輸出的聯系。該階段根據需要可使用 AD/BP。