1 結構布局
目前大數據存儲有兩種方案可供選擇:行存儲和列存儲。業界對兩種存儲方案有很多爭持,集中焦點是:誰能夠更有效地處理海量數據,且兼顧安全、可靠、完整性。從目前發展情況看,關系數據庫已經不適應這種巨大的存儲量和計算要求,基本是淘汰出局。在已知的幾種大數據處理軟件中,Hadoop的HBase采用列存儲,MongoDB是文檔型的行存儲,Lexst是二進制型的行存儲。在這里,我不討論這些軟件的技術和優缺點,只圍繞機械磁盤的物理特質,分析行存儲和列存儲的存儲特點,以及由此產生的一些問題和解決辦法。
1.1 行存儲數據排列
一般的MySQL,oracle結構化數據存儲
1.2 列存儲數據排列
在列存儲方式下,存儲空間中的下一個對象就從同一條記錄的下一個屬性轉變為下一條記錄的同一屬性。雖然這種旋轉了90。的存儲方式並沒有減少數據量,但會帶來以下好處:
(1)大數據應用往往需要批量訪問列數據(當用戶主要關心同一屬性的統計特性時),這時列存儲方式的優勢就會體現出來,列存儲方式對屬性的訪問比行存儲方式快很多,據有關報道,它的讀取速度比行存儲方式要快50 ~ 100倍。
(2)有利於提高數據的壓縮比,同類數據存儲在一起有助於提高數據之間的相關性,從而有利於實施高效壓縮算法(如行程壓縮算法等)。
表格的灰色背景部分表示行列結構,白色背景部分表示數據的物理分布,兩種存儲的數據都是從上至下,從左向右的排列(它們在硬盤上都是以一橫為單位存儲的,這樣行存儲存儲的是一條完整的記錄,列存儲存儲的是多條記錄的相同字段數據)。行存儲以一行記錄為單位,列存儲以列數據集合單位,或稱列族(column family)。行存儲的讀寫過程是一致的
,都是從第一列開始,到最后一列結束。列存儲的讀取是列數據集中的一段或者全部數據,寫入時,一行記錄被拆分為多列,每一列數據追加到對應列的末尾處。
2 對比
從上面表格可以看出,行存儲的寫入是一次完成。如果這種寫入建立在操作系統的文件系統上,可以保證寫入過程的成功或者失敗,數據的完整性因此可以確定。列存儲由於需要把一行記錄拆分成單列保存,寫入次數明顯比行存儲多,再加上磁頭需要在盤片上移動和定位花費的時間,實際時間消耗會更大。所以,行存儲在寫入上占有很大的優勢。
還有數據修改,這實際也是一次寫入過程。不同的是,數據修改是對磁盤上的記錄做刪除標記。行存儲是在指定位置寫入一次,列存儲是將磁盤定位到多個列上分別寫入,這個過程仍是行存儲的列數倍。所以,數據修改也是以行存儲占優。 數據讀取時,行存儲通常將一行數據完全讀出,如果只需要其中幾列數據的情況,就會存在冗余列,出於縮短處理時間的考量,消除冗余列的過程通常是在內存中進行的。列存儲每次讀取的數據是集合的一段或者全部,如果讀取多列時,就需要移動磁頭,再次定位到下一列的位置繼續讀取。 再談兩種存儲的數據分布。由於列存儲的每一列數據類型是同質的,不存在二義性問題。比如說某列數據類型為整型(int),那么它的數據集合一定是整型數據。這種情況使數據解析變得十分容易。相比之下,行存儲則要復雜得多,因為在一行記錄中保存了多種類型的數據,數據解析需要在多種數據類型之間頻繁轉換,這個操作很消耗CPU,增加了解析的時間。所以,列存儲的解析過程更有利於分析大數據。
3 優化
顯而易見,兩種存儲格式都有各自的優缺點:行存儲的寫入是一次性完成,消耗的時間比列存儲少,並且能夠保證數據的完整性,缺點是數據讀取過程中會產生冗余數據,如果只有少量數據,此影響可以忽略;數量大可能會影響到數據的處理效率。列存儲在寫入效率、保證數據完整性上都不如行存儲,它的優勢是在讀取過程,不會產生冗余數據,這對數據完整性要求不高的大數據處理領域,比如互聯網,猶為重要。
改進集中在兩方面:行存儲讀取過程中避免產生冗余數據,列存儲提高讀寫效率。
如何改進它們的缺點,並保證優點呢?
行存儲的改進:減少冗余數據首先是用戶在定義數據時避免冗余列的產生;其次是優化數據存儲記錄結構,保證從磁盤讀出的數據進入內存后,能夠被快速分解,消除冗余列。要知道,目前市場上即使最低端CPU和內存的速度也比機械磁盤快上100-1000倍。如果用上高端的硬件配置,這個處理過程還要更快。
列存儲的兩點改進:1.在計算機上安裝多塊硬盤,以多線程並行的方式讀寫它們。多塊硬盤並行工作可以減少磁盤讀寫競用,這種方式對提高處理效率優勢十分明顯。缺點是需要更多的硬盤,這會增加投入成本,在大規模數據處理應用中是不小的數目,運營商需要認真考慮這個問題。2.對寫過程中的數據完整性問題,可考慮在寫入過程中加入類似關系數據庫的“回滾”機制,當某一列發生寫入失敗時,此前寫入的數據全部失效,同時加入散列碼校驗,進一步保證數據完整性。
這兩種存儲方案還有一個共同改進的地方:頻繁的小量的數據寫入對磁盤影響很大,更好的解決辦法是將數據在內存中暫時保存並整理,達到一定數量后,一次性寫入磁盤,這樣消耗時間更少一些。目前機械磁盤的寫入速度在20M-50M/秒之間,能夠以批量的方式寫入磁盤,效果也是不錯的。
4 總結
兩種存儲方式各自的特性都決定了它們都不可能是完美的解決方案。如果首要考慮的是數據的完整性和可靠性,那么行存儲方式是不二的選擇,列存儲方式只有在增加磁盤並改進軟件設計后才能接近這樣的目標。如果以保存數據為主,則行存儲方式的寫入性能比列存儲方式高很多。在需要頻繁讀取單列數據的應用中,列存儲方式是最合適的。如果每次讀取多列數據,則兩個方案可酌情選擇:采用行存儲方式時,設計中應考慮減少或避免冗余列;采用列存儲方式時,為保證讀寫效率,每列數據應盡可能分別保存在不同的磁盤上,多個線程並行讀寫各自的數據,這樣就可避免磁盤競用的同時提高讀寫效率。無論選擇哪種存儲方式,將相同屬性的數據存放在一起都是必需的,可減少磁頭在磁盤上的移動,提高數據的讀寫效率。