學習內容： 1.CART樹 2.算法原理 3.損失函數 4.分裂結點算法 5.正則化 6.對缺失值處理 7.優缺點 8.應用場景 9.sklearn參數 1.CART樹 　　CART算法是一種二分遞歸分割技術，把當前樣本划分為兩個子樣本，使得生成的每個非葉子結點都有 ...

1，CART樹 　　 　　原理： 　　　　Classification And Regression Tree(CART)是決策樹的一種，並且是非常重要的決策樹，屬於Top Ten Machine Learning Algorithm。顧名思義，CART算法既可以用於創建分類樹 ...

1.前向分布算法 其算法的思想是，因為學習的是加法模型，如果能夠從前往后，每一步只學習一個基函數及其系數，逐步逼近優化目標函數，那么就可以簡化優化的復雜度。 2.負梯度擬合 對於一般的回歸樹，采用平方誤差損失函數，這時根據前向分布每次只需要達到最優化，就能 ...

1.GBDT(Gradient Boosting Decision Tree)思想 　　Boosting : 　 　　Gradient boosting 　　　 ...

---恢復內容開始--- 隨機森林算法梳理 1. 集成學習概念 通過構建並結合多個學習器來完成學習任務，有時也被稱為多分類器系統、基於委員會的學習等 2. 個體學習器概念 通常由一個現有的算法從訓練數據產生的基學習器。 3. boosting ...

CatBoost算法梳理 原文格式粘貼過來就不對了，還是到原文看吧:http://datacruiser.io/2019/08/19/DataWhale-Workout-No-8-CatBoost-Summary/ 補充 What is Target Leakage ...

1.集成學習概念 　　在機器學習的有監督學習算法中，我們的目標是學習出一個穩定的且在各個方面表現都較好的模型，但實際情況往往不這么理想，有時我們只能得到多個有偏好的模型（弱監督模型，在某些方面表現的比較好）。集成學習就是組合這里的多個弱監督模型以期得到一個更好更全面的強監督模型，集成學習潛在 ...

質數定理： 1、從2開始到自身的-1的數中找到一個能整除的（從2開始到自身開平方的數中找到一個能整除的）。 2、一個合數一定可以分解成幾個質數的乘積，也就是說，一個數如果能被一個質數整除就是合數。(使 ...