數據分析基礎內容介紹:模型、工具、統計、挖掘與展現


數據分析基礎內容介紹:模型、工具、統計、挖掘與展現。讓我們一起來了解一下。

 

1. 數據分析多層模型介紹

這個金字塔圖像是數據分析的多層模型,從下往上一共有六層:

底下第一層稱為Data Sources 元數據層。

比如說在生產線上,在生產的數據庫里面,各種各樣的數據,可能是銀行的業務數據,也可能是電信運營商在交換機里面采集下來的數據等等,然后這些生產的數據通過ETL,是英文 Extract-Transform-Load 的縮寫,用來描述將數據從來源端經過抽取(extract)、轉換(transform)、加載(load)至目的端的過程,通過這個過程,我們可以把需要的數據放到數據倉庫里面,那這個數據倉庫就是多層模型中的第二層。

數據倉庫主要是給我們需要存放的數據提供一個物理基礎,我們對數據進行分析,原材料都放在這個數據倉庫里面,這幾年以來,除了數據倉庫這個概念,還興起了數據集市這個概念,數據集市其實就是部門級的數據倉庫,規模比較小一點的數據倉庫。

再上面一層是Data Exploration,這層主要做統計分析的事情,比如我們算均值、標准差、方差、排序、求最小大值、中位數、眾數等等,這些統計學比較常用的指標,另外還有些SQL查詢語句,總的來說主要是做一些目標比較明確,計算方法比較清楚的事情。

第四層是Data Mining數據挖掘層,數據挖掘與數據分析(統計分析)有什么區別呢,數據分析往往是統計量和算法比較清楚,數據挖掘往往是目標不是很清楚,在實現目標的過程中采用什么方法不能確定,所以數據挖掘比數據分析難度要高很多。

第五層是數據展現層,把數據分析和數據挖掘得出來的結果通過數據展現層的圖表、報表把他展現出來,也可以稱為數據可視化。

最后把這些圖表、報表交給決策者,以這個為基礎做一些決策。

2. 數據分析工具簡介

常用的數據分析工具,包括一些廠商的數據庫產品,包括IBM的DB2、甲骨文的Oracle數據庫。這些廠商的數據庫本身帶有一些統計分析的包,里面有些標准的功能可以做數據分析工作,但用這些自帶的數據分析工具功能相對不夠專業。主要反映在缺乏標准的統計函數,比如做一個線性回歸模型,需要寫一大堆SQL語句,甚至要寫一個plsql程序才能完成。但是在專業的統計軟件只需要寫一個簡單的函數就可以完成。

目前最主流的統計軟件有R、SAS、SPSS,R是一個免費的開源軟件。

SAS大概是歷史最悠久的統計軟件,是一個商業軟件,在60年代就誕生,在70年代以后逐漸商業化,發展到現在SAS已經成為國際標准。

SPSS也是一個歷史悠久的統計軟件,SPSS一開始是一個仿真軟件,后來演變成一個統計軟件,目前已經發展成為一個數據挖掘軟件,目前被IBM收購,變成IBM旗下的一個產品,在社會學研究院領域有很多的應用。

其他的還有一些軟件,比如說水晶報表(Crystal Reports),在做BI和報表非常擅長,另外如UCINET也是在社會學比較常用的軟件,它可以畫群體的網絡圖,社交關系圖非常擅長。

3. 常用統計方法

使用統計方法,有目的地對收集到的數據進行分析處理,並且解讀分析結果:

常用算法

4. 數據挖掘

數據挖掘是以查找隱藏在數據中的信息為目標的技術,是應用算法從大型數據庫中提取知識的過程,這些算法確定信息項之間的隱性關聯,並且向用戶顯示這些關聯。

數據挖掘思想來源:假設檢驗,模式識別,人工智能,機器學習

常見數據挖掘任務:關聯分析,聚類分析,孤立點分析等等

例:啤酒與尿布的故事

5. 展現層:報表與圖形

展現層在數據分析中是一個很重要的組成部分,在大家的心目中數據分析軟件只是讀數據和算數據,結果算出來就OK了。但其實結果算出來以后對於數據分析還遠沒有結束,還需要把結果展現出來,有些時候可能結果的展現比計算花的時間還要多。

下圖是一個比較老土的報表。

如果那這種報表給老板看,那體驗效果肯定很差,其實人的特點對數字的感覺不敏感,如果你那一大堆數字組成的報表給老板看,老板肯定不是很高興。

人對圖形會比較敏感,所以在統計學里面通常有比較標准的圖,如餅圖、柱形圖(垂直和水平)、虛線圖、水泡圖、魚骨圖、箱線圖等等。

下面是一張在地圖上展現數據的展現形式

下圖是關於使用安卓手機的數據展現

根據信息圖顯示,Android先生的頭發有47%的可能是黑色的,戴眼鏡的幾率為37%,有36%的可能是北美人,30%的可能臉上長雀斑。71%的時 間會穿T恤,下身穿牛仔褲的時間占了62%。工作只占了38%,玩游戲卻占了62%,平均每個月會用掉582MB的數據流量。這種圖稱為信息圖,在數據分析這個行業里面,是數據展現工作的主要組成部分。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM