圖解人工智能機器學習深度學習的關系和區別,先直觀看下圖的關系:
AI(Artificial Intelligence.人工智能)、機器學習(machine learning)、深度學習(Deep learning)
人工智能和機器學習和深度學習的區別:機器學習是人工智能的一種實現方法,而且在許多的應用領域應用的非常成功,所以現在比較流行; 說到機器學習,就不得不提深度學習,深度學習是機器學習中的一個組成分支,深度學習是機器學習研究中的一個新的領域,其動機在於建立、模擬人腦進行分析學習的神經網絡,它模仿人腦的機制來解釋數據,例如圖像,聲音和文本。
深度學習是無監督學習的一種。深度學習的概念源於人工神經網絡的研究。含多隱層的多層感知器就是一種深度學習結構。
深度學習通過組合低層特征形成更加抽象的高層表示屬性類別或特征,以發現數據的分布式特征表示。
Deep learning本身算是machine learning的一個分支,簡單可以理解為neural network的發展。
大約二三十年前,neural network曾經是ML領域特別火熱的一個方向,但是后來確慢慢淡出了,原因包括以下幾個方面:
1)比較容易過擬合,參數比較難tune,而且需要不少trick;
2)訓練速度比較慢,在層次比較少(小於等於3)的情況下效果並不比其它方法更優;
所以中間有大約20多年的時間,神經網絡被關注很少,這段時間基本上是SVM和boosting算法的天下。
但是,一個痴心的老先生Hinton,他堅持了下來,並最終(和其它人一起Bengio、Yann.lecun等)提成了一個實際可行的deep learning框架。
Deep learning與傳統的神經網絡之間有相同的地方也有很多不同。
二者的相同在於deep learning采用了神經網絡相似的分層結構,系統由包括輸入層、隱層(多層)、輸出層組成的多層網絡,只有相鄰層節點之間有連接,同一層以及跨層節點之間相互無連接,每一層可以看作是一個logistic regression模型;
這種分層結構,是比較接近人類大腦的結構的。而為了克服神經網絡訓練中的問題,DL采用了與神經網絡很不同的訓練機制。
傳統神經網絡中,采用的是back propagation的方式進行,簡單來講就是采用迭代的算法來訓練整個網絡,隨機設定初值,計算當前網絡的輸出,然后根據當前輸出和label之間的差去改變前面各層的參數,直到收斂(整體是一個梯度下降法)。
而deep learning整體上是一個layer-wise的訓練機制。
這樣做的原因是因為,如果采用back propagation的機制,對於一個deep network(7層以上),殘差傳播到最前面的層已經變得太小,出現所謂的gradient diffusion(梯度擴散)。
人工智能的三大法寶: 大數據,計算能力和算法。 因為我們知道,人工智能其實是通過不斷的吃數據,自動的處理數據變聰明的,而且數據訓練的越多,其准備度越高。無論是個人企業都逃離不了上面的三大區域。 隨着工業的現代化,人類的分工也越來越密切,一個人試圖掌握一切知識的能力所付出的成本也越來越高。如果你覺得你對數據的處理比較在行的話,就可以在大數據的獲取和分類方面鑽研的更深,其實也是投入了人工智能行業的懷抱的;如果你或者貴公司是做硬件設備的,或者有大型分布式處理的設計和使用經驗的話,在人工智能的計算方面進行拓展也是非常不錯的;如果你覺得你的算法和數學功底很好的話,那么可以在算法方面進行深入的造詣。同時,肯定還有一部分人需要結合上面的三大法寶進行應用開發和參數調優,實際應用AI去解決生產生活的一些問題,這也是一個不錯的轉型的方向。
------------------------------
本人微信公眾帳號: 心禪道(xinchandao)
本人微信公眾帳號:雙色球預測合買(ssqyuce)