开始聊mapreduce，mapreduce是hadoop的计算框架，我学hadoop是从hive开始入手，再到hdfs，当我学习hdfs时候，就感觉到hdfs和mapreduce关系的紧密。这个可能是我做技术研究的思路有关，我开始学习某一套技术总是想着这套技术到底能干什么，只有当我真正 ...

一、Sqoop基础：连接关系型数据库与Hadoop的桥梁 1.1 Sqoop的基本概念　　 　　Hadoop正成为企业用于大数据分析的最热门选择，但想将你的数据移植过去并不容易。Apache Sqoop正在加紧帮助客户将重要数据从数据库移到Hadoop。随着Hadoop和关系型数据库之间的数据 ...

一、关于Pig：别以为猪不能干活 1.1 Pig的简介 　　Pig是一个基于Hadoop的大规模数据分析平台，它提供的SQL-LIKE语言叫Pig Latin，该语言的编译器会把类SQL的数据分析请求转换为一系列经过优化处理的MapReduce运算。Pig为复杂的海量数据并行计算提供了一个 ...

一、Hive：一个牛逼的数据仓库 1.1 神马是Hive？ 　　Hive 是建立在 Hadoop 基础上的数据仓库基础构架。它提供了一系列的工具，可以用来进行数据提取转化加载（ETL），这是一种可以存储、查询和分析存储在 Hadoop 中的大规模数据的机制。Hive 定义了简单的类 SQL ...

1.Hadoop&Streaming简介 1.1 Hadoop简介 Hadoop MapReduce是一个用于处理海量数据的分布式计算框架，这个框架解决了诸如 ...

1.常用Streaming命令介绍 使用下面的命令运行Streaming MapReduce程序： 1: $HADOOP_HOME/bin/hadoop/hadoop streaming args 其中args是streaming参数，下面是参数 ...

图像定位的直观理解 不仅需要我们知道图片中的对象是什么，还要在对象的附近画一个边框，确定该对象所处的位置。 也就是最终输出的是一个四元组，表示边框的位置 图像定位网络架构 可以将图像定位任务 ...

传统多线程编程的问题。 Spark中使用的分布式多线程框架，是Akka。Akka也实现了类似Scala Act ...