淺析十三種常用的數據挖掘的技術&五個免費開源的數據挖掘軟件


一、前 沿

   數據挖掘就是從大量的、不完全的、有噪聲的、模糊的、隨機的數據中,提取隱含在其中的、人們事先不知道的但又是潛在有用的信息和知識的過程。數據挖掘的任務是從數據集中發現模式,可以發現的模式有很多種,按功能可以分為兩大類:預測性(Predictive)模式和描述性(Descriptive)模式。在應用中往往根據模式的實際作用細分為以下幾種:分類,估值,預測,相關性分析,序列,時間序列,描述和可視化等。

   數據挖掘涉及的學科領域和技術很多,有多種分類法。根據挖掘任務分,可分為分類或預測模型發現、數據總結、聚類、關聯規則發現、序列模式發現、依賴關系或依賴模型發現、異常和趨勢發現等等;根據挖掘對象分,有關系數據庫、面向對象數據庫、空間數據庫、時態數據庫、文本數據源、多媒體數據庫、異質數據庫、遺產數據庫以及環球網Web;根據挖掘方法分,可粗分為:機器學習方法、統計方法、神經網絡方法和數據庫方法。機器學習中,可細分為:歸納學習方法(決策樹、規則歸納等)、基於范例學習、遺傳算法等。統計方法中,可細分為:回歸分析(多元回歸、自回歸等)、判別分析(貝葉斯判別、費歇爾判別、非參數判別等)、聚類分析(系統聚類、動態聚類等)、探索性分析(主元分析法、相關分析法等)等。神經網絡方法中,可細分為:前向神經網絡(BP算法等)、自組織神經網絡(自組織特征映射、競爭學習等)等。數據庫方法主要是多維數據分析或OLAP方法,另外還有面向屬性的歸納方法等等。

   二、數據挖掘技術簡述

   數據挖掘的技術有很多種,按照不同的分類有不同的分類法。下面着重討論一下數據挖掘中常用的一些技術:統計技術,關聯規則,基於歷史的分析,遺傳算法,聚集檢測,連接分析,決策樹,神經網絡,粗糙集,模糊集,回歸分析,差別分析,概念描述等十三種常用的數據挖掘的技術。

       1、統計技術

   數據挖掘涉及的科學領域和技術很多,如統計技術。統計技術對數據集進行挖掘的主要思想是:統計的方法對給定的數據集合假設了一個分布或者概率模型(例如一個正態分布)然后根據模型采用相應的方法來進行挖掘。

       2、關聯規則

   數據關聯是數據庫中存在的一類重要的可被發現的知識。若兩個或多個變量的取值之I司存在某種規律性,就稱為關聯。關聯可分為簡單關聯、時序關聯、因果關聯。關聯分析的目的是找出數據庫中隱藏的關聯網。有時並不知道數據庫中數據的關聯函數,即使知道也是不確定的,因此關聯分析生成的規則帶有可信度。

       3、基於歷史的MBR(Memory-based Reasoning)分析

   先根據經驗知識尋找相似的情況,然后將這些情況的信息應用於當前的例子中。這個就是MBR(Memory Based Reasoning)的本質。MBR首先尋找和新記錄相似的鄰居,然后利用這些鄰居對新數據進行分類和估值。使用MBR有三個主要問題,尋找確定的歷史數據;決定表示歷史數據的最有效的方法;決定距離函數、聯合函數和鄰居的數量。

       4、遺傳算法GA(Genetic Algorithms)

   基於進化理論,並采用遺傳結合、遺傳變異、以及自然選擇等設計方法的優化技術。主要思想是:根據適者生存的原則,形成由當前群體中最適合的規則組成新的群體,以及這些規則的后代。典型情況下,規則的適合度(Fitness)用它對訓練樣本集的分類准確率評估。

       5、聚集檢測

   將物理或抽象對象的集合分組成為由類似的對象組成的多個類的過程被稱為聚類。由聚類所生成的簇是一組數據對象的集合,這些對象與同一個簇中的對象彼此相似,與其它簇中的對象相異。相異度是根據描述對象的屬眭值來計算的,距離是經常采用的度量方式。

       6、連接分析

   連接分析,Link analysis,它的基本理論是圖論。圖論的思想是尋找一個可以得出好結果但不是完美結果的算法,而不是去尋找完美的解的算法。連接分析就是運用了這樣的思想:不完美的結果如果是可行的,那么這樣的分析就是一個好的分析。利用連接分析,可以從一些用戶的行為中分析出一些模式;同時將產生的概念應用於更廣的用戶群體中。

       7、決策樹

   決策樹提供了一種展示類似在什么條件下會得到什么值這類規則的方法。

       8、神經網絡

   在結構上,可以把一個神經網絡划分為輸入層、輸出層和隱含層。輸入層的每個節點對應—個個的預測變量。輸出層的節點對應目標變量,可有多個。在輸入層和輸出層之間是隱含層(對神經網絡使用者來說不可見),隱含層的層數和每層節點的個數決定了神經網絡的復雜度。

   除了輸入層的節點,神經網絡的每個節點都與很多它前面的節點(稱為此節點的輸入節點)連接在一起,每個連接對應一個權重Wxy,此節點的值就是通過它所有輸入節點的值與對應連接權重乘積的和作為—個函數的輸入而得到,我們把這個函數稱為活動函數或擠壓函數。

       9、粗糙集

   粗糙集理論基於給定訓練數據內部的等價類的建立。形成等價類的所有數據樣本是不加區分的,即對於描述數據的屬性,這些樣本是等價的。給定現實世界數據,通常有些類不能被可用的屬性區分。粗糙集就是用來近似或粗略地定義這種類。

       10、模糊集

   模糊集理論將模糊邏輯引入數據挖掘分類系統,允許定義“模糊”域值或邊界。模糊邏輯使用0.0和1.0之間的真值表示一個特定的值是一個給定成員的程度,而不是用類或集合的精確截斷。模糊邏輯提供了在高抽象層處理的便利。

       11、回歸分析

   回歸分析分為線性回歸、多元回歸和非線性同歸。在線性回歸中,數據用直線建模,多元回歸是線性回歸的擴展,涉及多個預測變量。非線性回歸是在基本線性模型上添加多項式項形成非線性同門模型。

       12、差別分析

   差別分析的目的是試圖發現數據中的異常情況,如噪音數據,欺詐數據等異常數據,從而獲得有用信息。

       13、概念描述

   概念描述就是對某類對象的內涵進行描述,並概括這類對象的有關特征。概念描述分為特征性描述和區別性描述,前者描述某類對象的共同特征,后者描述不同類對象之間的區別,生成一個類的特征性描述只涉及該類對象中所有對象的共性。

   三、結束語

   由於人們急切需要將存在於數據庫和其他信息庫中的數據轉化為有用的知識,因而數據挖掘被認為是一門新興的、非常重要的、具有廣闊應用前景和富有挑戰性的研究領域,並應起了眾多學科(如數據庫、人工智能、統計學、數據倉庫、在線分析處理、專家系統、數據可視化、機器學習、信息檢索、神經網絡、模式識別、高性能計算機等)研究者的廣泛注意。作為一門新興的學科,數據挖掘是由上述學科相互交叉、相互融合而形成的。隨着數據挖掘的進一步發展,它必然會帶給用戶更大的利益

 

Orange

    Orange 是一個基於組件的數據挖掘和機器學習軟件套裝,它的功能即友好,又很強大,快速而又多功能的可視化編程前端,以便瀏覽數據分析和可視化,基綁定了Python以進行腳本開發。它包含了完整的一系列的組件以進行數據預處理,並提供了數據帳目,過渡,建模,模式評估和勘探的功能。其由C++ 和 Python開發,它的圖形庫是由跨平台的Qt框架開發。

RapidMiner

    RapidMiner, 以前叫 YALE (Yet Another Learning Environment), 其是一個給機器學習和數據挖掘和分析的試驗環境,同時用於研究了真實世界數據挖掘。它提供的實驗由大量的算子組成,而這些算子由詳細的XML 文件記錄,並被RapidMiner圖形化的用戶接口表現出來。RapidMiner為主要的機器學習過程提供了超過500算子,並且,其結合了學習方案和Weka學習環境的屬性評估器。它是一個獨立的工具可以用來做數據分析,同樣也是一個數據挖掘引擎可以用來集成到你的產品中。

Weka

    由Java開發的 Weka (Waikato Environment for Knowledge Analysis) 是一個知名機器學機軟件,其支持幾種經典的數據挖掘任務,顯著的數據預處理,集群,分類,回歸,虛擬化,以及功能選擇。其技術基於假設數據是以一種單個文件或關聯的,在那里,每個數據點都被許多屬性標注。 Weka 使用Java的數據庫鏈接能力可以訪問SQL數據庫,並可以處理一個數據庫的查詢結果。它主要的用戶接品是Explorer,也同樣支持相同功能的命令行,或是一種基於組件的知識流接口。

JHepWork

    為科學家,工程師和學生所設計的 jHepWork 是一個免費的開源數據分析框架,其主要是用開源庫來創建 一個數據分析環境,並提供了豐富的用戶接口,以此來和那些收費的的軟件競爭。它主要是為了科學計算用的二維和三維的制圖,並包含了用Java實現的數學科學庫,隨機數,和其它的數據挖掘算法。 jHepWork 是基於一個高級的編程語言 Jython,當然,Java代碼同樣可以用來調用 jHepWork 的數學和圖形庫。

KNIME

    KNIME (Konstanz Information Miner) 是一個用戶友好,智能的,並有豐演的開源的數據集成,數據處理,數據分析和數據勘探平台。它給了用戶有能力以可視化的方式創建數據流或數據通道,可選擇性地運行一些或全部的分析步驟,並以后面研究結果,模型 以及 可交互的視圖。 KNIME 由Java寫成,其基於 Eclipse 並通過插件的方式來提供更多的功能。通過以插件的文件,用戶可以為文件,圖片,和時間序列加入處理模塊,並可以集成到其它各種各樣的開源項目中,比如:R語言,Weka, Chemistry Development Kit, 和 LibSVM.

    源文:http://www.junauza.com/2010/11/free-data-mining-software.html(牆)

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM