機器學習項目流程


        在微博上看到七月算法寒老師總結的完整機器的學習項目的工作流程,結合天池比賽的經歷寫的。現在機器學習應用非常流行,了解機器學習項目的流程,能幫助我們更好的使用機器學習工具來處理實際問題。

1. 理解實際問題,抽象為機器學習能處理的數學問題

        理解實際業務場景問題是機器學習的第一步,機器學習中特征工程和模型訓練都是非常費時的,深入理解要處理的問題,能避免走很多彎路。理解問題,包括明確可以獲得的數據,機器學習的目標是分類、回歸還是聚類。如果都不是的話,考慮將它們轉變為機器學習問題。參考機器學習分類能幫助從問題提煉出一個合適的機器學習方法。

2. 獲取數據

       獲取數據包括獲取原始數據以及從原始數據中經過特征工程從原始數據中提取訓練、測試數據。機器學習比賽中原始數據都是直接提供的,但是實際問題需要自己獲得原始數據。“ 數據決定機器學習結果的上限,而算法只是盡可能的逼近這個上限”,可見數據在機器學習中的作用。總的來說數據要有具有“代表性”,對於分類問題,數據偏斜不能過於嚴重,不同類別的數據數量不要有數個數量級的差距。不僅如此還要對評估數據的量級,樣本數量、特征數量,估算訓練模型對內存的消耗。如果數據量太大可以考慮減少訓練樣本、降維或者使用分布式機器學習系統。

3. 特征工程

       特征工程是非常能體現一個機器學習者的功底的。特征工程包括從原始數據中特征構建、特征提取、特征選擇,非常有講究。深入理解實際業務場景下的問題,豐富的機器學習經驗能幫助我們更好的處理特征工程。特征工程做的好能發揮原始數據的最大效力,往往能夠使得算法的效果和性能得到顯著的提升,有時能使簡單的模型的效果比復雜的模型效果好。數據挖掘的大部分時間就花在特征工程上面,是機器學習非常基礎而又必備的步驟。數據預處理、數據清洗、篩選顯著特征、摒棄非顯著特征等等都非常重要,建議深入學習。

4. 模型訓練、診斷、調優

        現在有很多的機器學習算法的工具包,例如sklearn,使用非常方便,真正考驗水平的根據對算法的理解調節參數,使模型達到最優。當然,能自己實現算法的是最牛的。模型診斷中至關重要的是判斷過擬合、欠擬合,常見的方法是繪制學習曲線,交叉驗證。通過增加訓練的數據量、降低模型復雜度來降低過擬合的風險,提高特征的數量和質量、增加模型復雜來防止欠擬合。診斷后的模型需要進行進一步調優,調優后的新模型需要重新診斷,這是一個反復迭代不斷逼近的過程,需要不斷的嘗試,進而達到最優的狀態。

5. 模型驗證、誤差分析

        模型驗證和誤差分析也是機器學習中非常重要的一步,通過測試數據,驗證模型的有效性,觀察誤差樣本,分析誤差產生的原因,往往能使得我們找到提升算法性能的突破點。誤差分析主要是分析出誤差來源與數據、特征、算法。

6 . 模型融合

       一般來說實際中,成熟的機器算法也就那么些,提升算法的准確度主要方法是模型的前端(特征工程、清洗、預處理、采樣)和后端的模型融合。在機器學習比賽中模型融合非常常見,基本都能使得效果有一定的提升。這篇博客中提到了模型融合的方法,主要包括一人一票的統一融合,線性融合和堆融合。

 

參考:http://ask.julyedu.com/question/7013


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM