HBase存儲時間相關多列數據的兩種方案


所謂“時間相關多列數據”指的是同一個Key下具有多個屬性數據,並且這些數據與時間具有相關性,多數場景是該Key對應在不同時間時刻的行為數據。在實際應用中,這類數據很多,例如電子商務網站上用戶最近一段時間瀏覽的寶貝集合、訪問的URL列表等。

使用HBase存儲此類數據時,有以下兩種常用的方案:

多行單列

表結構設計

Row Key:用戶標識ID + (Long.MAX_VALUE - timestamp)

Column Family:’cf’

Column Qualifier:’’

Value:寶貝、URL等

其中,使用(Long.MAX_VALUE – timestamp)作為Row Key的后半部分是為了便於獲取最近插入的數據,一個用戶標識ID下的數據存儲在多個Row Key下,每個Row Key下僅有一個Column Qualifier,表示該用戶的一次時間相關的訪問數據(訪問寶貝、URL等)。

查詢方式

1)查詢某個特定timestamp下的記錄,則使用用戶標識ID + (Long.MAX_VALUE - timestamp)進行Get查找;

2)查詢某個用戶標識ID下所有的記錄,則通過Scan.setStartRow(uid)和Scan.setStopRow(uid+1)進行Scan查找;

3)查詢某個用戶標識ID下最近時間內的N條記錄,則通過Scan.setStartRow(uid)和Scan.setStopRow(uid+1)進行Scan查找,但是為了只獲取N條記錄,可以設置Scan.setCaching(N)優化查詢,同時做一次ResultScanner.next(N)得到結果。

單行多列

表結構設計

Row Key:用戶標識ID

Column Family:’cf’

Column Qualifier:(Long.MAX_VALUE - timestamp)

Value:寶貝、URL等

其中,使用(Long.MAX_VALUE – timestamp)作為Column Qualifier是為了便於獲取最近插入的數據,一個用戶標識ID下的數據存儲在一個Row Key下,每個Row Key下會有多個Column Qualifier,表示該用戶的所有時間相關的訪問數據(訪問寶貝、URL等)。

查詢方式

1)查詢某個特定timestamp下的記錄,則使用用戶標識ID進行Get查找,同時通過Get.addColumn(‘cf’, (Long.MAX_VALUE – timestamp))方法限定要查詢的Column Qualifier;

2)查詢某個用戶標識ID下所有的記錄,則直接使用用戶標識ID進行Get查找,通過Get.addFamily(‘cf’)方法添加整個Column Family;

3)查詢某個用戶標識ID下最近時間內的N條記錄,則直接使用用戶標識ID進行Get查找,通過Get.addFamily(‘cf’)方法添加整個Column Family,通過ColumnCountGetFilter(int N)限制最多要查詢返回N條記錄。

總結

兩種方式都能滿足以上基本的查詢需求,但由於目前HBase在單行多列的場景下,讀寫性能都有一定的衰減(具體情況請關注博客,后續會對這塊給出詳細的性能測試),因此,個人建議采取第一種方案,如果確定Column Qualifier個數很少(例如2~10個),或者有其他特殊需求的話,也可采取第二種方案。

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM