Hadoop多租戶架構配置


cloudera manager 進到cluster里面,點擊Dynamic Resource Pools,沒做任何配置默認情況下,資源池里有個default資源組 hadoop jar /usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar wordcount shakespeare.txt result2 任何一個用戶提交一個作業,會生成一個以這個用戶的名字為資源池的名字的一個資源池。 sudo -u hdfs hadoop fs -mkdir /usr/root sudo -u hdfs hadoop fs -chown root:root /usr/root hadoop fs -ls 沒報錯 就是找到了家目錄 不希望每次都生成一個用戶的資源池,不希望單個作業占用太多資源,這就需要我們做一個多租戶的設置。Configuration Add Resource Pool 比如名字較PROD 設置一下權重。如何綁定PROD呢,還需要兩個參數,Placement Rules edit 把里面√去掉 Save Change!Save!對yarn組件重啟,再提交一個作業,看到在default里。不是我們定義的,也沒有指定資源池,就在default里運行;一般都會設置的比較小。 hadoop jar /usr/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar wordcount -D mapreduce.job.queuename=root.PROD /user/carr/shakespeare.txt result3


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM