spark任務添加依賴的方式： 1 如果是local方式運行，可以通過--jars來添加依賴； 2 如果是yarn方式運行，可以通過spark.yarn.jars來添加依賴； 這兩種方式在oozie上都行不通，首先oozie上沒辦法也不應該通過local運行 ...

用戶提交任務到yarn時有可能遇到下面的錯誤： 1） Requested user anything is not whitelisted and has id 980,which is below the minimum allowed 1000 這是因為yarn中配置 ...

spark 2.1.1 系統中希望監控spark on yarn任務的執行進度，但是監控過程發現提交任務之后執行進度總是10%，直到執行成功或者失敗，進度會突然變為100%，很神奇， 下面看spark on yarn任務提交過程： spark on yarn提交任務時會 ...

hive執行sql提交到yarn上的任務名字是被處理過的，通常只能顯示sql的前邊一段和最后幾個字符，這樣就會帶來一些問題： 1）相近時間提交了幾個相近的sql，相互之間無法區分； 2）一個任務有問題，想看下這個任務具體執行的是什么？是誰的任務？ 通過以下方法可以查看： 1）如果任務 ...

spark on yarn通過--deploy-mode cluster提交任務之后，應用已經在yarn上執行了，但是spark-submit提交進程還在，直到應用執行結束，提交進程才會退出，有時這會很不方便，並且不注意的話還會占用很多資源，比如提交spark streaming應用； 最近發現 ...

oozie中通過shell執行impala，腳本如下： 直接執行shell腳本正常，在oozie中執行報錯： 按照提示修改PYTHON_EGG_CACHE即可 另外還可以通過beeline連接，則沒有python的問題， 詳見：https ...

在yarn中的application詳情頁面 http://resourcemanager/cluster/app/$applicationId 或者通過application命令 yarn application -status $applicationId 只能 ...

oozie中支持很多的action類型，比如spark、hive，對應的標簽為： <spark xmlns="uri:oozie:spark-action:0.1"> ... oozie中sharelib用於存放每個action類型需要的依賴，可以查看當前 ...