Hive_內部排序(Sort By)


每個MapReduce內部排序(Sort By)

Sort By:對於大規模的數據集order by的效率非常低。在很多情況下,並不需要全局排序,此時可以使用sort by

Sort by為每個reducer產生一個排序文件。每個Reducer內部進行排序,對全局結果集來說不是排序。

1.設置reduce個數

hive (default)> set mapreduce.job.reduces=3;

2.查看設置reduce個數

hive (default)> set mapreduce.job.reduces;

3.根據部門編號降序查看員工信息

hive (default)> select * from emp sort by deptno desc;

4.將查詢結果導入到文件中(按照部門編號降序排序)

hive (default)> insert overwrite local directory '/opt/module/datas/sortby-result'
select * from emp sort by d


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM