1. 赫布學習法則
百度詞條:赫布理論(Hebbian theory)描述了突觸可塑性的基本原理,即突觸前神經元向突觸后神經元的持續重復的刺激可以導致突觸傳遞效能的增加。這一理論由唐納德·赫布於1949年提出,又被稱為赫布定律(Hebb's rule)、赫布假說(Hebb's postulate)、細胞結集理論(cell assembly theory)等。他如此表述這一理論:
反射活動的持續與重復會導致神經元穩定性的持久性提升……當神經元A的軸突與神經元B很近並參與了對B的重復持續的興奮時,這兩個神經元或其中一個便會發生某些生長過程或代謝變化,致使A作為能使B興奮的細胞之一,它的效能增強了。
這一理論經常會被總結為“一起激發的神經元連在一起”(Cells that fire together, wire together)。
神經元"A"必須對神經元"B"的激發“作出了一定貢獻”,因此,神經元"A"的激發必須在神經元"B"之先,而不能同時激發。赫布理論中的這一部分研究,后來被稱作STDP(Spike-timing dependent plasticity),表明突觸可塑性需要一定的時間延遲。赫布理論可以用於解釋“聯合學習”(associative learning),在這種學習中,由對神經元的重復刺激,使得神經元之間的突觸強度增加。這樣的學習方法被稱為赫布型學習(Hebbian learning)。赫布理論也成為了非監督學習的生物學基礎。
2. 脈沖神經網絡
根據1943年Hebbian提出的學習規則,如果突觸能夠持續引起突觸后靶神經元產生動作電位,該突觸的突觸效能會增加。Henry Markram提出的Spike Timing Dependent Plasticity學習方法----STDP,它根據神經元學習的先后順序,調整神經元之間連接的強弱。
當突觸前脈沖先於突觸后脈沖到達時(pre-post spiking),能夠引起長時程增強(LTP)
當突觸后脈沖先於突觸前脈沖到達時(post-pre spiking),能夠引起長時程抑制(LTD)
3.同步振盪
神經振盪發生於中樞神經系統的各個層次:動作電位、局部場電位和腦電圖。一般來說,這種振盪可以根據其頻率、振幅和相位來進行分類。這些信號特征可以通過時間-頻率分析進行提取。在大部分神經振盪中,幅度的變化被認為是起源於神經元群體的同步性變化,也就是指神經元活動的局部同步化。除了局部同步化以外,較遠的神經元組織結構的振盪活性也可以發生同步化。
鈉離子通道的開發建立一定的靜息電位,鉀離子通道開放則類似電池放電,形成一過性的脈沖電流。這種電生理特征決定細胞膜的興奮需要有一定間隔,整體表現為一定頻率。
神經生物學將這種共同頻率神經元之間的共振激活現象稱為神經握手,大腦內雖然存在千億個神經元,但任何兩個神經元之間都能通過直接和間接通路發生聯系,如果這些聯系之間存在類似的頻率,就產生了握手和共振的基礎。頻率接近的神經元能形成電同步現象,這和各種同頻率共振的物理現象類似。
如何定量化描述神經元之間的同步程度便是一個急需解決的問題。[3]提出一個新的神經同步振盪的量化方法,有望成為定量化工具的新標准,並為將來更精確的定量化方法提供新思路。
當前常用的定量化方法一般是譜相干(spectral coherence),許多神經科學的工具包內(諸如Fieldtrip、Chronux)都有提供相應的算法接口。然而譜相干方法對待分析的信號有幾個假設,其中最重要的假設是要求信號是線性的和平穩的(linearity and stationarity)。然而,這些關鍵假設在神經信號中卻很少得到驗證。與之相反的是,越來越多的證據證明,神經振盪信號具有非平穩性(non-stationarity)和非線性(non-linearity)的特征。這使得神經振盪信號從定義上就不適合用譜相干方法進行分析。
[3]利用相位振盪模型(Kuramoto Model)和脈沖神經網絡產生的同步振盪,來測試譜相干方法的適用范圍。模擬結果表明,當振盪器處於間歇性的部分同步時(這是最有可能產生神經同步的狀態),譜相干方法尤其失效。失效的原因是即將同步的神經元的振盪頻率和振幅的快速變化。
於是,[3]提出基於希爾伯特變換(Hilbert Transform)和奇異譜分解(Singular Spectrum Decomposition)來定量化相位鎖定現象。奇異譜分解是近年來提出的一種新的自適應信號處理方法,能夠將非線性非平穩信號依次從高頻到低頻分解為若干個奇異譜分量(Singular spectrum component)和殘余項之和。該文通過模擬實驗表明,該方法能夠得到更精確的同步震盪程度的估計。
4. 神經元建模
神經元是神經網絡的最基本計算單元,其數學建模是神經網絡及其學習算法實現的基礎和關鍵。最簡單的神經元模型是McCullochPitts(M-P)神經元模型,也被稱為第一代神經元。第一代神經元中,通過比較輸入值與閾值,將神經元分成抑制和興奮2 種狀態,分別用0 和1 來表示。此后,研究者使用0 到1 之間的單調函數(激勵函數),如S 型函數等,來表達神經元尖峰的放電速率,並通過尖峰放電速率定義神經元抑制或興奮的狀態。這種神經元模糊地表達抑制和興奮狀態,屬於第二代神經元。近年來,研究者正在努力通過用簡單的數學模型,構建神經元尖峰放電的動態過程,從而實現類神經元建模和類腦計算。
[4] 將神經元末梢表示為若干段單輸入-多輸出的等效電路網絡,這些電路網絡由電阻、電容、電流源和電壓源組成,可解釋腦電圖(electroencephalogram,EEG) 信號中經常出現的不同頻帶信號的整體振盪、同步振盪和振盪耦合等信號模式。該模型產生的動作電位由神經元本征噪聲和動態信號耦合而成,其輸出信號由尖峰電位激勵濾波器組產生,等價於與神經末梢連接的突觸的突觸后電位。該模型中,具有不同頻率特性的各突觸后濾波器可以看成中心頻率分頻所用的帶通濾波器,可以產生δ波(1~4Hz)、θ 波(4~8 Hz)、α 波(8~14 Hz)、β 波(14~30 Hz)、γ(30~80 Hz),以及其他帶寬。
仿真結果表明,32 個神經元具有爆發振盪的能力, 神經元之間產生相干性爆發尖峰放電,即同步振盪。神經網絡的側向抑制具有處理復雜環境噪聲的能力,可有效地模擬神經生理節律。
參考文獻
- 意識的神經振盪基礎,孫學軍,http://blog.sciencenet.cn/home.php?mod=space&uid=41174&do=blog&id=1200484
- Coupled ripple oscillations between the medial temporal lobe and neocortex retrieve human memory,2019.3.1,Science
- Lowet, Eric, et al. "Quantifying neural oscillatory synchronization: a comparison between spectral coherence and phase-locking value approaches." PloS one 11.1 (2016): e0146443.
- 王衛東,王子華, 許燕, 樊瑜波, 一種新型脈沖神經元模型及其網絡的研究,國際生物醫學工程雜志2020年2月第43卷第1期