大數據基礎---HiveCLI和Beeline命令行的基本使用

一、Hive CLI

1.1 Help

使用 hive -H 或者 hive --help 命令可以查看所有命令的幫助，顯示如下：

usage: hive
 -d,--define <key=value>          Variable subsitution to apply to hive 
                                  commands. e.g. -d A=B or --define A=B  --定義用戶自定義變量
    --database <databasename>     Specify the database to use  -- 指定使用的數據庫
 -e <quoted-query-string>         SQL from command line   -- 執行指定的 SQL
 -f <filename>                    SQL from files   --執行 SQL 腳本
 -H,--help                        Print help information  -- 打印幫助信息
    --hiveconf <property=value>   Use value for given property    --自定義配置
    --hivevar <key=value>         Variable subsitution to apply to hive  --自定義變量
                                  commands. e.g. --hivevar A=B
 -i <filename>                    Initialization SQL file  --在進入交互模式之前運行初始化腳本
 -S,--silent                      Silent mode in interactive shell    --靜默模式
 -v,--verbose                     Verbose mode (echo executed SQL to the  console)  --詳細模式

1.2 交互式命令行

直接使用 Hive 命令，不加任何參數，即可進入交互式命令行。

1.3 執行SQL命令

在不進入交互式命令行的情況下，可以使用 hive -e 執行 SQL 命令。

hive -e 'select * from emp';

1.4 執行SQL腳本

用於執行的 sql 腳本可以在本地文件系統，也可以在 HDFS 上。

# 本地文件系統
hive -f /usr/file/simple.sql;

# HDFS文件系統
hive -f hdfs://hadoop001:8020/tmp/simple.sql;

其中 simple.sql 內容如下：

select * from emp;

1.5 配置Hive變量

可以使用 --hiveconf 設置 Hive 運行時的變量。

hive -e 'select * from emp' \
--hiveconf hive.exec.scratchdir=/tmp/hive_scratch  \
--hiveconf mapred.reduce.tasks=4;

hive.exec.scratchdir：指定 HDFS 上目錄位置，用於存儲不同 map/reduce 階段的執行計划和這些階段的中間輸出結果。

1.6 配置文件啟動

使用 -i 可以在進入交互模式之前運行初始化腳本，相當於指定配置文件啟動。

hive -i /usr/file/hive-init.conf;

其中 hive-init.conf 的內容如下：

set hive.exec.mode.local.auto = true;

hive.exec.mode.local.auto 默認值為 false，這里設置為 true ，代表開啟本地模式。

1.7 用戶自定義變量

--define <key=value> 和 --hivevar <key=value> 在功能上是等價的，都是用來實現自定義變量，這里給出一個示例:

定義變量：

hive  --define  n=ename --hiveconf  --hivevar j=job;

在查詢中引用自定義變量：

# 以下兩條語句等價
hive > select ${n} from emp;
hive >  select ${hivevar:n} from emp;

# 以下兩條語句等價
hive > select ${j} from emp;
hive >  select ${hivevar:j} from emp;

結果如下：

二、Beeline

2.1 HiveServer2

Hive 內置了 HiveServer 和 HiveServer2 服務，兩者都允許客戶端使用多種編程語言進行連接，但是 HiveServer 不能處理多個客戶端的並發請求，所以產生了 HiveServer2。

HiveServer2（HS2）允許遠程客戶端可以使用各種編程語言向 Hive 提交請求並檢索結果，支持多客戶端並發訪問和身份驗證。HS2 是由多個服務組成的單個進程，其包括基於 Thrift 的 Hive 服務（TCP 或 HTTP）和用於 Web UI 的 Jetty Web 服務器。

HiveServer2 擁有自己的 CLI(Beeline)，Beeline 是一個基於 SQLLine 的 JDBC 客戶端。由於 HiveServer2 是 Hive 開發維護的重點 (Hive0.15 后就不再支持 hiveserver)，所以 Hive CLI 已經不推薦使用了，官方更加推薦使用 Beeline。

2.1 Beeline

Beeline 擁有更多可使用參數，可以使用 beeline --help 查看，完整參數如下：

Usage: java org.apache.hive.cli.beeline.BeeLine
   -u <database url>               the JDBC URL to connect to
   -r                              reconnect to last saved connect url (in conjunction with !save)
   -n <username>                   the username to connect as
   -p <password>                   the password to connect as
   -d <driver class>               the driver class to use
   -i <init file>                  script file for initialization
   -e <query>                      query that should be executed
   -f <exec file>                  script file that should be executed
   -w (or) --password-file <password file>  the password file to read password from
   --hiveconf property=value       Use value for given property
   --hivevar name=value            hive variable name and value
                                   This is Hive specific settings in which variables
                                   can be set at session level and referenced in Hive
                                   commands or queries.
   --property-file=<property-file> the file to read connection properties (url, driver, user, password) from
   --color=[true/false]            control whether color is used for display
   --showHeader=[true/false]       show column names in query results
   --headerInterval=ROWS;          the interval between which heades are displayed
   --fastConnect=[true/false]      skip building table/column list for tab-completion
   --autoCommit=[true/false]       enable/disable automatic transaction commit
   --verbose=[true/false]          show verbose error messages and debug info
   --showWarnings=[true/false]     display connection warnings
   --showNestedErrs=[true/false]   display nested errors
   --numberFormat=[pattern]        format numbers using DecimalFormat pattern
   --force=[true/false]            continue running script even after errors
   --maxWidth=MAXWIDTH             the maximum width of the terminal
   --maxColumnWidth=MAXCOLWIDTH    the maximum width to use when displaying columns
   --silent=[true/false]           be more silent
   --autosave=[true/false]         automatically save preferences
   --outputformat=[table/vertical/csv2/tsv2/dsv/csv/tsv]  format mode for result display
   --incrementalBufferRows=NUMROWS the number of rows to buffer when printing rows on stdout,
                                   defaults to 1000; only applicable if --incremental=true
                                   and --outputformat=table
   --truncateTable=[true/false]    truncate table column when it exceeds length
   --delimiterForDSV=DELIMITER     specify the delimiter for delimiter-separated values output format (default: |)
   --isolation=LEVEL               set the transaction isolation level
   --nullemptystring=[true/false]  set to true to get historic behavior of printing null as empty string
   --maxHistoryRows=MAXHISTORYROWS The maximum number of rows to store beeline history.
   --convertBinaryArrayToString=[true/false]    display binary column data as string or as byte array
   --help                          display this message

2.3 常用參數

在 Hive CLI 中支持的參數，Beeline 都支持，常用的參數如下。更多參數說明可以參見官方文檔 Beeline Command Options

參數	說明
-u <database URL>	數據庫地址
-n <username>	用戶名
-p <password>	密碼
-d <driver class>	驅動 (可選)
-e <query>	執行 SQL 命令
-f <file>	執行 SQL 腳本
-i (or)--init <file or files>	在進入交互模式之前運行初始化腳本
--property-file <file>	指定配置文件
--hiveconf property=value	指定配置屬性
--hivevar name=value	用戶自定義屬性，在會話級別有效

示例： 使用用戶名和密碼連接 Hive

$ beeline -u jdbc:hive2://localhost:10000  -n username -p password 

​

三、Hive配置

可以通過三種方式對 Hive 的相關屬性進行配置，分別介紹如下：

3.1 配置文件

方式一為使用配置文件，使用配置文件指定的配置是永久有效的。Hive 有以下三個可選的配置文件：

• hive-site.xml ：Hive 的主要配置文件；

• hivemetastore-site.xml： 關於元數據的配置；

• hiveserver2-site.xml：關於 HiveServer2 的配置。

示例如下,在 hive-site.xml 配置 hive.exec.scratchdir：

 <property>
    <name>hive.exec.scratchdir</name>
    <value>/tmp/mydir</value>
    <description>Scratch space for Hive jobs</description>
  </property>

3.2 hiveconf

方式二為在啟動命令行 (Hive CLI / Beeline) 的時候使用 --hiveconf 指定配置，這種方式指定的配置作用於整個 Session。

hive --hiveconf hive.exec.scratchdir=/tmp/mydir

3.3 set

方式三為在交互式環境下 (Hive CLI / Beeline)，使用 set 命令指定。這種設置的作用范圍也是 Session 級別的，配置對於執行該命令后的所有命令生效。set 兼具設置參數和查看參數的功能。如下：

0: jdbc:hive2://hadoop001:10000> set hive.exec.scratchdir=/tmp/mydir;
No rows affected (0.025 seconds)
0: jdbc:hive2://hadoop001:10000> set hive.exec.scratchdir;
+----------------------------------+--+
|               set                |
+----------------------------------+--+
| hive.exec.scratchdir=/tmp/mydir  |
+----------------------------------+--+

3.4 配置優先級

配置的優先順序如下 (由低到高)：
hive-site.xml - >hivemetastore-site.xml- > hiveserver2-site.xml - > -- hiveconf- > set

3.5 配置參數

Hive 可選的配置參數非常多，在用到時查閱官方文檔即可AdminManual Configuration

參考資料

1. HiveServer2 Clients
2. LanguageManual Cli
3. AdminManual Configuration

系列傳送門