前言 過去幾個月,一直在學習機器學習模型,輸入只是學習的一部分,輸出可以幫助自己更熟練地掌握概念和知識。把一個復雜的事物簡單的講述出來,才能表示真正弄懂了這個知識。所以我將在博客中盡量簡單地把這些模型講述出來,以加深自己的掌握,也為他人提供一點點參考。在此感謝大神劉建平Pinard的博客,如有任何疑惑可參考該神博客,此作僅為狗尾續貂之作。 每個模型介紹都將用基本思想,輸入,輸出,損失函數,優化方法 ...
2020-10-24 19:57 0 611 推薦指數:
線性回歸 線性回歸是一個回歸問題,即用一條線去擬合訓練數據 線性回歸的模型: 通過訓練數據學習一個特征的線性組合,以此作為預測函數。 訓練目標:根據訓練數據學習參數(w1,w2, ... , wn,b) 學習策略: 要確定參數(w1,w2, ... , wn,b),即關鍵在於 ...
前面已經對感知機和SVM進行了簡要的概述,本節是SVM算法的實現過程用於輔助理解SVM算法的具體內容,然后借助sklearn對SVM工具包進行實現。 SVM算法的核心是SMO算法的實現,首先對SMO算法過程進行實現,先對一些輔助函數進行定義: 然后實現一個簡化版 ...
對《Python與機器學習實戰》一書閱讀的記錄,對於一些難以理解的地方查閱了資料輔以理解並補充和記錄,重新梳理一下感知機和SVM的算法原理,加深記憶。 1.感知機 感知機的基本概念 感知機是運用梯度下降學習過程的最簡單的機器學習算法之一,是神經網絡和支持向量機的基礎。具體提出 ...
邏輯回歸和線性回歸都是廣義線性模型中的一種,接下來我們來解釋為什么是這樣的? 1、指數族分布 指數族分布和指數分布是不一樣的,在概率統計中很對分布都可以用指數族分布來表示,比如高斯分布、伯努利分布、多項式分布、泊松分布等。指數族分布的表達式如下 其中η ...