HBase 2、HBase安裝與初試牛刀


 官方幫助文檔:http://hbase.apache.org/book.html  PDF:http://hbase.apache.org/apache_hbase_reference_guide.pdf

1、安裝前准備  

  – Hadoop集群要啟動正常
  – Zookeeper集群啟動正常

   HBase 分布式存儲的運行依托於Zookeeper和HDFS所以必須有一個完整的Hadoop分布式運行環境和Zookeeper運行環境;

   Hadoop高可用安裝參見:http://www.cnblogs.com/raphael5200/p/5154325.html

2、安裝HBase

  1)、配置hbase-env.sh

    進入HBase 的conf目錄下,編輯hbase-env.sh  添加如下配置:  

# 指定HBase是否使用HBase本身自帶的Zookeeper
export HBASE_MANAGES_ZK=false
# 指定Jdk目錄
export JAVA_HOME=/usr/java/jdk1.7.0_79
# 指定Hadoop配置文件目錄
export HBASE_CLASSPATH=/usr/local/hadoop-2.5.1/etc/hadoop

 

  2)、配置hbase-site.xml

    編輯conf目錄下的hbase-site.xml,配置內容如下:

# 指定HDFS的根目錄,在這個地方,如果想使用HBase高可用的話,必須配置成dfs.nameservices 不能配置節點名稱
<property>
        <name>hbase.rootdir</name>
        <value>hdfs://raphael/hbase</value>
</property>
<property>
        <name>hbase.cluster.distributed</name>
        <value>true</value>
</property>
# 配置Zookeeper節點,配置可不加端口
<property>
        <name>hbase.zookeeper.quorum</name>
        <value>node5,node6,node7</value>
</property>

 

  3)、配置reginservers,數據節點

    編輯conf下的regionservers,在該文件中配置HBase的節點,每台節點占一行:  

node5
node6
node7

 

  4)、配置HBase環境變量

    編輯/root/.bash_profile 在該文件中配置HBase的環境變量:

PATH=$PATH:$HOME/bin

JAVA_HOME=/usr/java/jdk1.7.0_79
PATH=$PATH:$JAVA_HOME/bin
export JAVA_HOME
HADOOP_HOME=/usr/local/hadoop-2.5.1
export HADOOP_HOME
HIVE_HOME=/usr/local/apache-hive-1.2.1
export HIVE_HOME
HBASE_HOME=/usr/local/hbase-1.1.3
export HBASE_HOME
PATH=$PATH:/usr/local/zookeeper-3.4.6/bin/:$HADOOP_HOME/bin/:$HADOOP_HOME/sbin/:$HIVE_HOME/bin/:$HBASE_HOME/bin
export PATH

  配置完成以后,將HBase分發到其他的HBase節點上:

scp -r /usr/local/hbase  root@node6:/usr/local/hbase

 

  5)、啟用HBase

#首先啟動Zookeeper的節點
$ zkServer.sh start

#再啟動Hadoop
$ start-all.sh

#最后啟動HBase
$ start-hbase.sh

  啟動完成以后就可以訪問 http://節點:16010 來查看了

  在關閉節點之前必須先關閉HBase,否則下次啟動HBase有可以會出錯;

 

3、使用HBase 和 Hbase使用幫助

  1)、進入HBase 

#使用命令進入HBase Shell
$ hbase shell

The HBase shell is the (J)Ruby IRB with the above HBase-specific commands added.
For more on the HBase Shell, see http://hbase.apache.org/book.html
hbase(main):003:0> 

  2)、使用HBase幫助

    HBase  提供了大量的幫助文檔,只要在HBase 下使用命令help就能夠查看HBase所有關鍵字的幫助

hbase(main):003:0> help

HBase Shell, version 1.1.3, r72bc50f5fafeb105b2139e42bbee3d61ca724989, Sat Jan 16 18:29:00 PST 2016
Type 'help "COMMAND"', (e.g. 'help "get"' -- the quotes are necessary) for help on a specific command.
Commands are grouped. Type 'help "COMMAND_GROUP"', (e.g. 'help "general"') for help on a command group.

COMMAND GROUPS:
  Group name: general
  Commands: status, table_help, version, whoami

  Group name: ddl
  Commands: alter, alter_async, alter_status, create, describe, disable, disable_all, drop, drop_all, enable, enable_all, exists, get_table, is_disabled, is_enabled, list, show_filters

  Group name: namespace
  Commands: alter_namespace, create_namespace, describe_namespace, drop_namespace, list_namespace, list_namespace_tables

  Group name: dml
  Commands: append, count, delete, deleteall, get, get_counter, get_splits, incr, put, scan, truncate, truncate_preserve

...

    如果不知道某個關鍵字如何使用的話,只需要在Hbase下直接建入該關鍵字即可:

hbase(main):004:0> put

ERROR: wrong number of arguments (0 for 4)

Here is some help for this command:
Put a cell 'value' at specified table/row/column and optionally
timestamp coordinates.  To put a cell value into table 'ns1:t1' or 't1'
at row 'r1' under column 'c1' marked with the time 'ts1', do:

  hbase> put 'ns1:t1', 'r1', 'c1', 'value'
  hbase> put 't1', 'r1', 'c1', 'value'
  hbase> put 't1', 'r1', 'c1', 'value', ts1
  hbase> put 't1', 'r1', 'c1', 'value', {ATTRIBUTES=>{'mykey'=>'myvalue'}}
  hbase> put 't1', 'r1', 'c1', 'value', ts1, {ATTRIBUTES=>{'mykey'=>'myvalue'}}
  hbase> put 't1', 'r1', 'c1', 'value', ts1, {VISIBILITY=>'PRIVATE|SECRET'}

The same commands also can be run on a table reference. Suppose you had a reference
t to table 't1', the corresponding command would be:

  hbase> t.put 'r1', 'c1', 'value', ts1, {ATTRIBUTES=>{'mykey'=>'myvalue'}}

    在HBase 下,如果輸入內容錯了,使用回退鍵是不管用的,必須使用Ctrl+回退鍵才行。

  3)、創建表、插入數據、查詢數據

進入hbase shell console
    $HBASE_HOME/bin/hbase shell
如果有kerberos認證,需要事先使用相應的keytab進行一下認證(使用kinit命令),認證成功之后再使用hbase shell進入可以使用whoami命令可查看當前用戶
    hbase(main)> whoami
表的管理 1)查看有哪些表
    hbase(main)> list
2)創建表

    # 語法:create <table>, {NAME => <family>, VERSIONS => <VERSIONS>}
    # 例如:創建表t1,有兩個family name:f1,f2,且版本數均為2
    hbase(main)> create 't1',{NAME => 'f1', VERSIONS => 2},{NAME => 'f2', VERSIONS => 2}
3)刪除表
    分兩步:首先disable,然后drop
    例如:刪除表t1

    hbase(main)> disable 't1'
    hbase(main)> drop 't1'
4)查看表的結構

    # 語法:describe <table>
    # 例如:查看表t1的結構
    hbase(main)> describe 't1'
5)修改表結構
    修改表結構必須先disable

    # 語法:alter 't1', {NAME => 'f1'}, {NAME => 'f2', METHOD => 'delete'}
    # 例如:修改表test1的cf的TTL為180天
    hbase(main)> disable 'test1'
    hbase(main)> alter 'test1',{NAME=>'body',TTL=>'15552000'},{NAME=>'meta', TTL=>'15552000'}
    hbase(main)> enable 'test1'
權限管理 1)分配權限
    # 語法 : grant <user> <permissions> <table> <column family> <column qualifier> 參數后面用逗號分隔
    # 權限用五個字母表示: "RWXCA".
    # READ('R'), WRITE('W'), EXEC('X'), CREATE('C'), ADMIN('A')
    # 例如,給用戶‘test'分配對表t1有讀寫的權限,
    hbase(main)> grant 'test','RW','t1'
2)查看權限

    # 語法:user_permission <table>
    # 例如,查看表t1的權限列表
    hbase(main)> user_permission 't1'
3)收回權限

    # 與分配權限類似,語法:revoke <user> <table> <column family> <column qualifier>
    # 例如,收回test用戶在表t1上的權限
    hbase(main)> revoke 'test','t1'
表數據的增刪改查 1)添加數據
    # 語法:put <table>,<rowkey>,<family:column>,<value>,<timestamp>
    # 例如:給表t1的添加一行記錄:rowkey是rowkey001,family name:f1,column name:col1,value:value01,timestamp:系統默認
    hbase(main)> put 't1','rowkey001','f1:col1','value01'
    用法比較單一。
2)查詢數據
  a)查詢某行記錄

    # 語法:get <table>,<rowkey>,[<family:column>,....]
    # 例如:查詢表t1,rowkey001中的f1下的col1的值
    hbase(main)> get 't1','rowkey001', 'f1:col1'
    # 或者:
    hbase(main)> get 't1','rowkey001', {COLUMN=>'f1:col1'}
    # 查詢表t1,rowke002中的f1下的所有列值
    hbase(main)> get 't1','rowkey001'
  b)掃描表

    # 語法:scan <table>, {COLUMNS => [ <family:column>,.... ], LIMIT => num}
    # 另外,還可以添加STARTROW、TIMERANGE和FITLER等高級功能
    # 例如:掃描表t1的前5條數據
    hbase(main)> scan 't1',{LIMIT=>5}
  c)查詢表中的數據行數

    # 語法:count <table>, {INTERVAL => intervalNum, CACHE => cacheNum}
    # INTERVAL設置多少行顯示一次及對應的rowkey,默認1000;CACHE每次去取的緩存區大小,默認是10,調整該參數可提高查詢速度
    # 例如,查詢表t1中的行數,每100條顯示一次,緩存區為500
    hbase(main)> count 't1', {INTERVAL => 100, CACHE => 500}
3)刪除數據
  a )刪除行中的某個列值

    # 語法:delete <table>, <rowkey>,  <family:column> , <timestamp>,必須指定列名
    # 例如:刪除表t1,rowkey001中的f1:col1的數據
    hbase(main)> delete 't1','rowkey001','f1:col1'
    注:將刪除改行f1:col1列所有版本的數據
  b )刪除行

    # 語法:deleteall <table>, <rowkey>,  <family:column> , <timestamp>,可以不指定列名,刪除整行數據
    # 例如:刪除表t1,rowk001的數據
    hbase(main)> deleteall 't1','rowkey001'
  c)刪除表中的所有數據

    # 語法: truncate <table>
    # 其具體過程是:disable table -> drop table -> create table
    # 例如:刪除表t1的所有數據
    hbase(main)> truncate 't1'
Region管理 1)移動region
    # 語法:move 'encodeRegionName', 'ServerName'
    # encodeRegionName指的regioName后面的編碼,ServerName指的是master-status的Region Servers列表
    # 示例
    hbase(main)>move '4343995a58be8e5bbc739af1e91cd72d', 'db-41.xxx.xxx.org,60020,1390274516739'
2)開啟/關閉region

    # 語法:balance_switch true|false
    hbase(main)> balance_switch
3)手動split

    # 語法:split 'regionName', 'splitKey'
4)手動觸發major compaction

    #語法:
    #Compact all regions in a table:
    #hbase> major_compact 't1'
    #Compact an entire region:
    #hbase> major_compact 'r1'
    #Compact a single column family within a region:
    #hbase> major_compact 'r1', 'c1'
    #Compact a single column family within a table:
    #hbase> major_compact 't1', 'c1'
配置管理及節點重啟 1)修改hdfs配置
    hdfs配置位置:/etc/hadoop/conf
    # 同步hdfs配置
    cat /home/hadoop/slaves|xargs -i -t scp /etc/hadoop/conf/hdfs-site.xml hadoop@{}:/etc/hadoop/conf/hdfs-site.xml
    #關閉:
    cat /home/hadoop/slaves|xargs -i -t ssh hadoop@{} "sudo /home/hadoop/cdh4/hadoop-2.0.0-cdh4.2.1/sbin/hadoop-daemon.sh --config /etc/hadoop/conf stop datanode"
    #啟動:
    cat /home/hadoop/slaves|xargs -i -t ssh hadoop@{} "sudo /home/hadoop/cdh4/hadoop-2.0.0-cdh4.2.1/sbin/hadoop-daemon.sh --config /etc/hadoop/conf start datanode"
2)修改hbase配置
    hbase配置位置:

    # 同步hbase配置
    cat /home/hadoop/hbase/conf/regionservers|xargs -i -t scp /home/hadoop/hbase/conf/hbase-site.xml hadoop@{}:/home/hadoop/hbase/conf/hbase-site.xml
 
    # graceful重啟
    cd ~/hbase
    bin/graceful_stop.sh --restart --reload --debug inspurXXX.xxx.xxx.org

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM