【靈感來源】
https://mp.weixin.qq.com/s?__biz=MzIwMTE1NjQxMQ==&mid=2247505018&idx=3&sn=3d793565f9b1121b2fc29f03b2454c96&chksm=96f0a62ea1872f3811f78c0077e035eda81a9dbb4b170d8e0a3c8dcbdbe3fc1e9c22579fc0ce&scene=126&sessionid=1587514945&key=3afabdf7cfda3d9e6c879f10fa65255ce24a186bd472b616cec9b9e40ea87154f83165c0b03cab91001a3b1e0a80f47275bcd07eaa76505432007f21682ca83dc1a3fc9ae3c83d0c7f558a649c9ee280&ascene=1&uin=MjI2Mjg4NTQyNg%3D%3D&devicetype=Windows+7+x64&version=62090070&lang=zh_CN&exportkey=AXzfo6uAFREzVf12C5oMtTk%3D&pass_ticket=y3SreUFFXRx%2BcsWprRGudLpI04MO6SEfwpj4Rx7242uwaB2LRDpRV0Nl3Vze9Aw4
1.什么是復數域上的人工神經網絡?
寫這篇博客的時候,DeepMind已經用強化學習虐菜人類了,而自動駕駛已經進入道路實測了。
都這時候了,為啥還要掀工業界老底挖學術界祖墳?
因為目前的單值函數模型的人工神經網絡的處理能力已經觸頂,NAS(神經網絡架構搜索)之所以這么火,
一個原因是人類進入了人工設計模塊的舉步維艱時刻,而NAS本身突破也很小,因為基礎神經單元模塊太受限了。
以至於Google急於將搜索的基礎算子擴展到所有可用的算術符號和所有基本函數上,
寄期望於通過類似於遺傳算法等啟發式算法搜索得到比當前ANN更好的信息處理結構,結果是很慘淡的。
一大原因就是單值函數和人類的基於脈沖信號處理(信號是復數域的)完全不同,
生物學家也證明了生物神經單元的結構和功能都遠比基於單值函數MLP模型的人工神經元要復雜的多。
很早就有人提出了在復數域上處理信息的神經網絡,叫復數神經網絡,擴展到復數域后就能處理時序信息。
(采用傅立葉變換,可以將任意一維連續時序信號轉化到頻域上成為離散的脈沖,就能用機器進行處理)
但沒有為AI發展做出較大貢獻,原因猜測是復數域的模型太難訓練了,而且推理速度也比單值函數的神經網絡模型要慢。
實數域上的訓練系統是以反向傳播自動梯度推導為基礎的,這一套系統和實現已經相當完善,而復數域的幾乎沒看到過確定可用的方法。
2.什么是量子計算?
截至目前,量子計算機的計算能力依然很弱小,而且只能用於處理隨機數生成等少數問題,還沒法用於常規問題求解,
當然也無法模擬稍微復雜一點的圖靈計算,因為量子計算的原理更偏向於模擬計算,而不是離散計算,
一個變量的值在量子計算中處於曖昧狀態,不是確定的值,這一點和圖靈的唯一確定性比特的信息單元概念完全不同,
所以,量子計算不應該用於處理確定性問題,而更適合處理概率預測之類的問題,這就非常像目前人工智能AI的處理范圍了,
用圖靈機來模擬智能,可能就是錯誤的道路。
3、復數神經網絡+量子計算?
量子計算用於復數域的潛力很大,至少從量子力學是從復數域的線性代數矩陣論出發利用幾個看起來很詭異的
量子觀測規則構建起來的數學系統來看,量子之間的相互作用,和以流行映射為基礎的人工神經網絡很像。
本質上量子力學是線性的。量子的狀態的可分解和可疊加性就是佐證。當然,我對量子力學也是沒有認真學過的,可能我說的全是錯的。
但從對不確定狀態進行觀測的角度來看,神經元處理信息的方式很像量子行為,在量子比特間有隱藏的詭異的相互制約作用,
但只有觀測才會確定真實的狀態,而真實的狀態的確定又是遵循概率論的,所以,類似貝葉斯系統。
神經網絡中神經元的激活狀態應該也是類似的。所有神經元之間構成的電信號傳遞是模糊不確定的,
神經元是概率性激活的,不是給強刺激就一定會被激活,也不是弱刺激下一定不會激活(像不像DropOut?),
而是強刺激下高概率激活,弱刺激下低概率激活。這和量子的狀態太像了,交互量子的狀態會概率決定當前量子的狀態,
但在觀測之前它的狀態都是介於幾個有限的自旋態之間的。所以貝葉斯網絡是可以采用量子構建的,
而操縱端末節點的量子的狀態就可以超光速的改變輸出節點的量子狀態。而不需要用圖靈機去模擬概率,
甚至有些構成環狀的連接(量子團)對應的貝葉斯穩態求解本身就是個NP難問題,用圖靈機不一定能求解。
而采用量子之間的直接拓撲關系就能立即得到最終量子作用穩態的結果,也即收斂后的解。