我發現大多數的機器學習相關的書都是遍歷各種算法和案例，為大家講解各種各樣算法的原理和用途，但卻對調參探究甚少。這中間有許多原因，其一是因為，調參的方式總是根據數據的狀況而定，所以沒有辦法一概而論；其二是因為，其實大家也都沒有特別好的辦法。 　　通過畫學習曲線，或者網格搜索，我們能夠探索到調參 ...

構成的列表作為輸入，每個元組第一個值作為變量名，元組第二個元素是sklearn中的transformer ...

在做數據處理時，需要用到不同的手法，如特征標准化，主成分分析，等等會重復用到某些參數，sklearn中提供了管道，可以一次性的解決該問題 先展示先通常的做法 ...

一、任務 這次我們將了解在機器學習中支持向量機的使用方法以及一些參數的調整。支持向量機的基本原理就是將低維不可分問題轉換為高維可分問題，在前面的博客具體介紹過了，這里就不再介紹了。 首先導入相關標准庫： %matplotlib inline import numpy as np ...

一、決策樹思維、決策樹算法 　1）決策樹思維 決策樹思維是一種邏輯思考方式，逐層的設定條件對事物進行刷選判斷，每一次刷選判斷都是一次決策，最終得到達到目的；整個思考過程，其邏輯結構類似分叉的 ...

一、scikit-learn庫中的網格搜索調參 　 　1）網格搜索的目的： 找到最佳分類器及其參數； 　 　2）網格搜索的步驟： 得到原始數據 切分原始數據 創建/調用機器學習算法對象 調用並實例化scikit-learn中的網格搜索對象 對網格搜索 ...

之前在集成原理小結中總結了Bagging的原理。 理解了bagging算法，隨機森林(Random Forest,以下簡稱RF)就好理解了。它是Bagging算法的進化版，也就是說，它的思想仍然是bagging,但是進行了獨有的改進。 1. 隨機森林的原理（普通bagging的升級版） 第一 ...

機器學習模型當中，目前最為先進的也就是xgboost和lightgbm這兩個樹模型了。那么我們該如何進行調試參數呢？哪些參數是最重要的，需要調整的，哪些參數比較一般，這兩個模型又該如何通過代碼進行調用呢？下面是一張總結了xgboost，lightbgm，catboost這三個模型調試參數的一些經驗 ...