轉載請注明來源。原文地址:http://www.xzbu.com/1/view-6358371.htm
摘 要
本文主要介紹了人工神經網絡的概念,並對幾種具體的神經網絡進行介紹,從它們的提出時間、網絡結構和適用范圍幾個方面來深入講解。
【關鍵詞】神經網絡 感知器網絡 徑向基網絡 反饋神經網絡
1 引言
人工神經網絡是基於對人腦組織結構、活動機制的初步認識提出的一種新型信息處理體系。它實際上是一個由大量簡單元件相互連接而成的復雜網絡,具有高度的非線性,能夠進行復雜的邏輯操作和非線性關系實現的系統,通過模仿腦神經系統的組織結構以及某些活動機理,人工神經網絡可呈現出人腦的許多特征,並具有人腦的一些基本功能,利用這一特性,可以設計處具有類似大腦某些功能的智能系統來處理各種信息,解決不同問題。下面對幾種具體的神經網絡進行介紹。
2 感知器網絡
感知器是由美國學者Rosenblatt在1957年首次提出的,感知器可謂是最早的人工神經網絡。感知器具有分層結構,信息從輸入層進入網絡,逐層向前傳遞到輸出層。感知器是神經網絡用來進行模式識別的一種最簡單模型,屬於前向神經網絡類型。
2.1 單層感知器
單層感知器是指只有一層處理單元的感知器,它的結構與功能都非常簡單,通過讀網絡權值的訓練,可以使感知器對一組輸入矢量的響應達到元素為0或1的目標輸出,從而實現對輸入矢量分類的目的,目前在解決實際問題時很少被采用,但由於它在神經網絡研究中具有重要意義,是研究其他網絡的基礎,而且較易學習和理解,適合於作為學習神經網絡的起點。
2.2 多層感知器
多層感知器是對單層感知器的推廣,它能夠成功解決單層感知器所不能解決的非線性可分問題,在輸入層與輸出層之間引入隱層作為輸入模式的“內部表示”,即可將單層感知器變成多層感知器。
3 線性神經網絡
線性神經網絡類似於感知器,但是線性
神經網絡的激活函數是線性的,而不是硬限轉移函數。因此線性神經網絡的輸出可以使任意值,而感知器的輸出不是0就是1。線性神經網絡最早的典型代表就是在1963年由美國斯坦福大學教授Berhard Windrow提出的自適應線性元件網絡,它是一個由輸入層和輸出層構成的單層前饋性網絡。自適應線性神經網絡的學習算法比感知器的學習算法的收斂速度和精度都有較大的提高,自適應線性神經網絡主要用於函數逼近、信號預測、系統辨識、模式識別和控制等領域。
4 BP神經網絡
BP神經網絡是1986年由以Rumelhart和McCelland為首的科學家小組提出的,是一種按誤差逆傳播算法訓練的多層前饋網絡,在人工神經網絡的實際應用中,80%~90%的人工神經網絡模型采用BP網絡或者它的變化形式,它也是前向網絡的核心部分,體現了人工神經網絡最精華的部分,BP神經網絡由信息的正向傳播和誤差的反向傳播兩個過程組成。輸入層各神經元負責接收來自外界的輸入信息,並傳遞給中間層各神經元;中間層是內部信息處理層,負責信息變換,根據信息變化能力的需求,中間層可以設計為單隱層或者多隱層結構;最后一個隱層傳遞到輸出層各神經元的信息,經過一步處理后完成一次學習的正向傳播處理過程,由輸出層向外界輸出信息處理結果。當實際輸出與期望輸出不符時,進入誤差的反向傳播階段。誤差通過輸出層,按誤差梯度下降的方式修正各層權值,向隱層、輸入層逐層反傳。周而復始的信息正向傳播和誤差反向傳播過程,是各層權值不斷調整的過程,也是神經網絡學習訓練過程,此過程一直進行到網絡輸出的誤差減少到可以接受的程度,或者達到預先設定的學習次數為止。
BP網絡主要應用於以下方面:
(1)函數逼近:用輸入矢量和相應的輸出矢量訓練一個網絡逼近一個函數。
(2)模式識別:用一個特定的輸出矢量將它與輸入矢量聯系起來。
(3)分類:對輸入矢量以所定義的合適方式進行分類。
(4)數據壓縮:減少輸出矢量維數以便於傳輸或存儲。
5 反饋神經網絡
美國加州理工學院物理學家J.J.Hopfield教授於1982年發表了對神經網絡發展頗具影響的論文,提出一種單層反饋神經網絡,后來人們將這種反饋網絡稱作Hopfield網。在多輸入/多輸出的動態系統中,控制對象特性復雜,傳統方法難以描述復雜的系統。為控制對象建立模型可以減少直接進行實驗帶來的負面影響,所以模型顯得尤為重要。但是,前饋神經網絡從結構上說屬於一種靜態網絡,其輸入、輸出向量之間是簡單的非線性函數映射關系。實際應用中系統過程大多是動態的,前饋神經網絡辨識就暴露出明顯的不足,用前饋神經網絡只是非線性對應網絡,無反饋記憶環節,因此,利用反饋神經網絡的動態特性就可以克服前饋神經網絡的缺點,使神經網絡更加接近系統的實際過程。
Hopfield神經網絡的應用:
(1)在數字識別方面。
(2)高校科研能力評價。
(3)應用於聯想記憶的MATLAB程序。
6 徑向基神經網絡
徑向基RBF網絡是一個3層的網絡,除了輸入、輸出層之間外僅有一個隱層。隱層中的轉換函數是局部響應的高斯函數,而其他前向網絡,轉換函數一般都是全局響應函數。由於這樣的差異,要實現同樣的功能,RBF需要更多的神經元,這就是RBF網絡不能取代標准前向型絡的原因。但是RBF網絡的訓練時間更短,它對函數的逼近時最優的,可以以任意精度逼近任意連續函數。隱層中的神經元越多,逼近越精確。
徑向基網絡的應用:
(1)用於曲線擬合的RBF網絡。
(2)徑向基網絡實現非線性函數回歸。
7 自組織神經網絡
自組織競爭型神經網絡是一種無教師監督學習,具有自組織功能的神經網絡,網絡通過自身的訓練。能自動對輸入模式進行分類,一般由輸入層和競爭層夠曾。兩層之間各神經元實現雙向連接,而且網絡沒有隱含層。有時競爭層之間還存在着橫向連接。
常用自組織網絡有一下幾種:
(1)自組織特征映射網絡。
(2)學習矢量量化網絡。
(3)自適應共振理論模型。
(4)對偶傳播網絡。
參考文獻
[1]韓力群.人工神經網絡教程[M].北京:北京郵電大學出版社,2006.
[2]周品.神經網絡設計與應用[M].北京:清華大學出版社,2013.
作者簡介
孔令文(1989-),男,黑龍江省齊齊哈爾市人。現為西南林業大學機械與交通學院在讀研究生。研究方向為計算機仿真。
作者單位
西南林業大學機械與交通學院 雲南省昆明市 650224