所謂“時間相關多列數據”指的是同一個Key下具有多個屬性數據,並且這些數據與時間具有相關性,多數場景是該Key對應在不同時間時刻的行為數據。在實際應用中,這類數據很多,例如電子商務網站上用戶最近一段時間瀏覽的寶貝集合、訪問的URL列表等。
使用HBase存儲此類數據時,有以下兩種常用的方案:
多行單列
表結構設計
Row Key:用戶標識ID + (Long.MAX_VALUE - timestamp)
Column Family:’cf’
Column Qualifier:’’
Value:寶貝、URL等
其中,使用(Long.MAX_VALUE – timestamp)作為Row Key的后半部分是為了便於獲取最近插入的數據,一個用戶標識ID下的數據存儲在多個Row Key下,每個Row Key下僅有一個Column Qualifier,表示該用戶的一次時間相關的訪問數據(訪問寶貝、URL等)。
查詢方式
1)查詢某個特定timestamp下的記錄,則使用用戶標識ID + (Long.MAX_VALUE - timestamp)進行Get查找;
2)查詢某個用戶標識ID下所有的記錄,則通過Scan.setStartRow(uid)和Scan.setStopRow(uid+1)進行Scan查找;
3)查詢某個用戶標識ID下最近時間內的N條記錄,則通過Scan.setStartRow(uid)和Scan.setStopRow(uid+1)進行Scan查找,但是為了只獲取N條記錄,可以設置Scan.setCaching(N)優化查詢,同時做一次ResultScanner.next(N)得到結果。
單行多列
表結構設計
Row Key:用戶標識ID
Column Family:’cf’
Column Qualifier:(Long.MAX_VALUE - timestamp)
Value:寶貝、URL等
其中,使用(Long.MAX_VALUE – timestamp)作為Column Qualifier是為了便於獲取最近插入的數據,一個用戶標識ID下的數據存儲在一個Row Key下,每個Row Key下會有多個Column Qualifier,表示該用戶的所有時間相關的訪問數據(訪問寶貝、URL等)。
查詢方式
1)查詢某個特定timestamp下的記錄,則使用用戶標識ID進行Get查找,同時通過Get.addColumn(‘cf’, (Long.MAX_VALUE – timestamp))方法限定要查詢的Column Qualifier;
2)查詢某個用戶標識ID下所有的記錄,則直接使用用戶標識ID進行Get查找,通過Get.addFamily(‘cf’)方法添加整個Column Family;
3)查詢某個用戶標識ID下最近時間內的N條記錄,則直接使用用戶標識ID進行Get查找,通過Get.addFamily(‘cf’)方法添加整個Column Family,通過ColumnCountGetFilter(int N)限制最多要查詢返回N條記錄。
總結
兩種方式都能滿足以上基本的查詢需求,但由於目前HBase在單行多列的場景下,讀寫性能都有一定的衰減(具體情況請關注博客,后續會對這塊給出詳細的性能測試),因此,個人建議采取第一種方案,如果確定Column Qualifier個數很少(例如2~10個),或者有其他特殊需求的話,也可采取第二種方案。