提升(boosting) 方法是一種常用的統計學習方法,應用廣泛且有效.在分類問題中,它通過改變訓練樣本的權重,學習多個分類器,並將這些分類器進行線性組合,提高分類的性能.本章首先介紹提升方法的思路和代表性的提升算法AdaBoost; 然后通過訓練誤差分析探討AdaBoost 為什么能夠提高學習精度; 並且從前向分步加法模型的最后敘述提升方法更具體的實例一一提升樹(boosting角度解釋AdaBoost ;tree).AdaBoost 算法是1995 年由Freund 和Schapire 提出的,提升樹是2000 年由Friedman 等人提出的.
提升方法Python實戰: https://github.com/itmorn/Machine-Learning/tree/master/EnsembleMethods
Python sklearn-ensemble地址: http://scikit-learn.org/stable/modules/ensemble.html
——黎明傳數