一.現在我主要講解數據挖掘的基本規范流程
數據挖掘通常需要數據收集,數據集成,數據規約,數據清理,數據變換,數據挖掘實施過程,模式評估和知識表示
1.數據收集:根據所得的數據,抽象出數據的特征信息,將收集到的信息存入數據庫。選擇一種合適的數據存儲和管理的數據倉庫類型
2.數據集成:把不同來源,格式的數據進行分類
3.數據規約:當數據量和數據的值比較大的時候,我們可以用規約技術來得到數據集的規約表示,比如(數據值-數據平均值)/數據方差,這是數據就變小了很多但接近原數據的完整性,規約后數據挖掘的結果和規約前的結果基本一致。
4.數據清理:有些數據是不完整的如:有些有缺失值(值不存在),有些含噪音(錯誤,孤立點),有些是不一致的(如單位不同等),我們可以使用工具進行數據清理,得到完整,正確,一致的數據。
5.數據變換:通過平滑聚集,數據概化,規范化等方式將數據轉換成適用於數據挖掘的數據集。
6.特征提取或特征選擇:特征提取多應用於計算機視覺和圖像處理中,特征選擇是提出不相關和冗余的特征,防止過擬合,提高模型精確度,常用方法有PCA等。
7.數據挖掘過程:分析數據倉庫中的數據信息,選擇合適的數據挖掘工具,應用統計方法,使用相應的數據挖掘算法。。
8.從業務上,驗證數據分析和數據挖掘的結果正確性。
9.知識表示,將數據挖掘所得結果以可視化的方式呈現給用戶。
在數據挖掘中如果沒有得到理想的結果,需要重復執行以上步驟,步驟2,3,4,5均屬於預處理過程,數據挖掘大部分花在數據預處理部分。
二.數據挖掘算法及實現
分類:隨機森林用於多分類,決策樹會產生過擬合,logistic回歸常用於二分類,得到類的概率
聚類:常用的聚類有k-means.
預測:回歸模型,變系數單指數模型