我最近發現直接在presto里面插入partition數據,如果原來有數據則不會替換,會產生冗余數據。
但是目前presto又不支持insert overwrite,所以我們現在的做法是在pipeline里面增加一個操作刪除即將要寫入的partition,就像下面這樣
delete_partition --> load_data
目前來看的話,貌似沒什么好的辦法
我最近發現直接在presto里面插入partition數據,如果原來有數據則不會替換,會產生冗余數據。
但是目前presto又不支持insert overwrite,所以我們現在的做法是在pipeline里面增加一個操作刪除即將要寫入的partition,就像下面這樣
delete_partition --> load_data
目前來看的話,貌似沒什么好的辦法
本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。