人工神經網絡（ANN）
是對人腦若干基本特性通過數學方法進行的抽象和模擬，是一種模仿人腦結構及其功能的非線性信息處理系統。
具有較強的非線性逼近功能和自學習、自適應、並行處理的特點，具有良好的容錯能力。
人工神經元
神經元是構成神經網絡的最基本單元。要想構造一個人工神經網絡系統，首要任務是構造人工神經元模型。
一個人工神經網絡的神經元模型和結構描述了一個網絡如何將它的輸入矢量轉換為輸出矢量的過程。
一個神經元有兩個輸入：輸入向量p，閾值b，也叫偏差。
輸入向量p通過與它相連的權值分量w相乘，求和后，形成激活函數f(.)的輸入。激活函數的另一個輸入是神經元的閾值b。
權值w和輸入p的矩陣形式可以由w的行矢量以及p的列矢量來表示：
神經元模型的輸出矢量可以表示為：
激活函數是一個神經元及網絡的核心。
激活函數的基本作用是：
1、控制輸入對輸出的激活作用；
2、對輸入、輸出進行函數轉換；
3、將可能無限域的輸入變換成指定的有限范圍內的輸出。
激活函數的常用類型：
小波（wave/let）：波-震盪，小-衰減速度比較快。
小波分析具有多分辨分析的特點，是一種窗口大小固定不變但其形狀可以改變的分析方法，被稱為信號的顯微鏡。
小波分析的種類：Haar小波規范正交基、Morlet小波、Mallat算法、多分辨分析、多尺度分析、緊支撐小波基、時頻分析等。
小波神經網絡（WNN）
集人工神經網絡和小波分析優點於一身，即使網絡收斂速度快、避免陷入局部最優，又有時頻局部分析的特點。
WNN是將神經網絡隱結點的S函數由小波函數來代替，相應的輸入層到隱含層的權值及隱含層的閾值分別由小波函數的尺度伸縮因子和時間平移因子所代替。
