原文:《MapReduce: Simplified Data Processing on Large Cluster 》翻譯

Abstract MapReduce是一種編程模型和一種用來處理和產生大數據集的相關實現。用戶定義map函數來處理key value鍵值對來產生一系列的中間的key value鍵值對。還要定義一個reduce函數用來合並有着相同中間key值的中間value。許多現實世界中的任務都可以用這種模型來表達,就像下文所展示的那樣。 用這個風格編寫的程序可以自動並行地在集群上工作。運行時系統會自動處理例如切 ...

2016-10-31 21:22 0 7660 推薦指數:

查看詳情

[翻譯]MapReduce: Simplified Data Processing on Large Clusters

MapReduce: Simplified Data Processing on Large Clusters MapReduce:面向大型集群的簡化數據處理 摘要 MapReduce既是一種編程模型,也是一種與之關聯的、用於處理和產生大數據集的實現。用戶要特化一個map程序去處理key ...

Fri Nov 08 07:22:00 CST 2013 1 19954
elasticsearch報Data too large異常

在線上ES集群日志中發現了如下異常,elasticsearch版本為7.3.2 [2021-03-16T21:05:10,338][DEBUG][o.e.a.a.c.n.i.Transport ...

Wed Mar 17 22:54:00 CST 2021 0 433
關於Dubbo異常之Data length too large

最近幾日發現生產環境項目打出的日志,每天都在30~50G以上,尋找多次發現問題: 首先查看日志只看到大批量的json數據輸出,這是方法查詢后的返回值輸出,期初以為是自己打了logger,結果 ...

Tue Feb 06 17:57:00 CST 2018 0 2017
elasticsearch CircuitBreakingException FIELDDATA Data too large 異常

本文全部參照:https://blog.csdn.net/hereiskxm/article/details/46744985 這里自己留底記錄 1. 產生Data too large異常 經排查,原來是ES默認的緩存設置讓緩存區只進不出引起的,具體分析一下。 2. ES緩存 ...

Fri Jul 12 00:24:00 CST 2019 0 1316
Hadoop官方文檔翻譯——MapReduce Tutorial

MapReduce Tutorial(個人指導) Purpose(目的) Prerequisites(必備條件) Overview(綜述) Inputs and Outputs(輸入輸出) MapReduce - User Interfaces(用戶接口 ...

Mon Nov 28 23:04:00 CST 2016 1 2869
[大牛翻譯系列]Hadoop(7)MapReduce:抽樣(Sampling)

4.3 抽樣(Sampling) 用基於MapReduce的程序來處理TB級的數據集,要花費的時間可能是數以小時計。僅僅是優化代碼是很難達到良好的效果。 在開發和調試代碼的時候,沒有必要處理整個數據集。但如果在這種情況下要保證數據集能夠被正確地處理,就需要用到抽樣了。抽樣是統計學中的一個方法 ...

Sun Mar 09 16:09:00 CST 2014 0 3091
Akka官方文檔翻譯Cluster Specification

參加了CSDN的一個翻譯項目,翻譯Akka的文檔。CSDN提供的翻譯系統不好使,故先排版一下放在博客上。 5.1 集群規范 注意:本文檔介紹了集群的設計理念。它分成兩部分,第一部分描述了當前已經實現的部分,第二部分描述了未來要增強/增加的部分。對未現部分的引用被用腳注[*]標出 ...

Wed Mar 11 00:28:00 CST 2015 0 3606
 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM