數據挖掘步驟


一.現在我主要講解數據挖掘的基本規范流程

數據挖掘通常需要數據收集,數據集成,數據規約,數據清理,數據變換,數據挖掘實施過程,模式評估和知識表示

1.數據收集:根據所得的數據,抽象出數據的特征信息,將收集到的信息存入數據庫。選擇一種合適的數據存儲和管理的數據倉庫類型

2.數據集成:把不同來源,格式的數據進行分類

3.數據規約:當數據量和數據的值比較大的時候,我們可以用規約技術來得到數據集的規約表示,比如(數據值-數據平均值)/數據方差,這是數據就變小了很多但接近原數據的完整性,規約后數據挖掘的結果和規約前的結果基本一致。

4.數據清理:有些數據是不完整的如:有些有缺失值(值不存在),有些含噪音(錯誤,孤立點),有些是不一致的(如單位不同等),我們可以使用工具進行數據清理,得到完整,正確,一致的數據。

5.數據變換:通過平滑聚集,數據概化,規范化等方式將數據轉換成適用於數據挖掘的數據集。

6.特征提取或特征選擇:特征提取多應用於計算機視覺和圖像處理中,特征選擇是提出不相關和冗余的特征,防止過擬合,提高模型精確度,常用方法有PCA等。

7.數據挖掘過程:分析數據倉庫中的數據信息,選擇合適的數據挖掘工具,應用統計方法,使用相應的數據挖掘算法。。

8.從業務上,驗證數據分析和數據挖掘的結果正確性。

9.知識表示,將數據挖掘所得結果以可視化的方式呈現給用戶。

 

在數據挖掘中如果沒有得到理想的結果,需要重復執行以上步驟,步驟2,3,4,5均屬於預處理過程,數據挖掘大部分花在數據預處理部分。

 

 

 

二.數據挖掘算法及實現

分類:隨機森林用於多分類,決策樹會產生過擬合,logistic回歸常用於二分類,得到類的概率

 

 

聚類:常用的聚類有k-means.

 

 

預測:回歸模型,變系數單指數模型

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM