一.決策樹 決策樹一般以選擇屬性的方式不同分為id3(信息增益),c4.5(信息增益率),CART(基尼系數),只能進行線性的分割,是一種貪婪的算法,其中sklearn中的決策樹分為回歸樹和分類樹兩種,默認的是CART的決策樹,下面介紹CART決策樹 分支條件：二分類問題(只用來構建二叉樹 ...

前言 　　過去幾個月，一直在學習機器學習模型，輸入只是學習的一部分，輸出可以幫助自己更熟練地掌握概念和知識。把一個復雜的事物簡單的講述出來，才能表示真正弄懂了這個知識。所以我將在博客中盡量簡單地把這些模型講述出來，以加深自己的掌握，也為他人提供一點點參考。感謝大神劉建平Pinard的博客，如有 ...

pandas DataFrame進行向量化運算時,是根據行和列的索引值進行計算的,而不是行和列的位置: 1. 行和列索引一致: 2. 行索引一致,列索引不一致: 沒有對應索引的值,會用空來代替進行計算 3. 行索引不一致,列索引一致 ...

決策樹 與SVM類似，決策樹在機器學習算法中是一個功能非常全面的算法，它可以執行分類與回歸任務，甚至是多輸出任務。決策樹的算法非常強大，即使是一些復雜的問題，也可以良好地擬合復雜數據集。決策樹同時也是隨機森林的基礎組件，隨機森林在當前是最強大的機器學習算法之一。 在這章我們會先討論如何使用 ...

決策樹分類 　　決策樹分類歸類於監督學習，能夠根據特征值一層一層的將數據集進行分類。它的有點在於計算復雜度不高，分類出的結果能夠很直觀的呈現，但是也會出現過度匹配的問題。使用ID3算法的決策樹分類第一步需要挑選出一個特征值，能夠將數據集最好的分類，之后遞歸構成分類樹。使用信息增益，來得到最佳 ...

決策樹的目標是從一組樣本數據中，根據不同的特征和屬性，建立一棵樹形的分類結構。 決策樹的學習本質上是從訓練集中歸納出一組分類規則，得到與數據集矛盾較小的決策樹，同時具有很好的泛化能力。決策樹學習的損失函數通常是正則化的極大似然函數，通常采用啟發式方法，近似求解這一最優化問題。 算法原理 ...

引言   神經網絡模型，特別是深度神經網絡模型，自AlexNet在Imagenet Challenge 2012上的一鳴驚人，無疑是Machine Learning Research上最靚的仔，各種進展和突破層出不窮，科學家工程師人人都愛它。   機器學習研究發展至今，除了神經網絡模型這種 ...

看到一篇關於決策樹比較好的文章，轉錄過來，內容如下： 決策樹 決策樹里面最重要的就是節點和分裂條件，直接決定了一棵樹的好壞。用一個簡單的例子先說明一下： 來一段情景對話： 母親：女兒，你也不小了，還沒對象！媽很揪心啊，這不托人給你找了個對象，明兒去見個面吧！ 女兒：年紀 ...