浅谈大数据技术
忽如一夜春风来，无人不谈大数据。大数据就像前两年的云计算一样，是一个时下被炒得很火的概念。那么什么是大数据，大数据是如何定义的，大数据处理技术有哪些，大数据能给我们带来什么益处？虽然我不知道现在这些概念是如何被炒作的，但是作为一名互联网行业的从业者，作为一个大数据技术的实践者，根据自己的理解和经验 ...
原文：浅谈大数据和hadoop家族
按照时间的早晚从大数据出现之前的时代讲到现在。暂时按一个城市来比喻吧，反正Landscape的意思也大概是 风景 的意思。早在大数据概念出现以前就存在了各种各样的关于数学 统计学 算法 编程语言的研究 讨论和实践。这个时代，算法以及各种数学知识作为建筑的原料 比如钢筋 砖块 ，编程语言作为粘合剂 比如水泥 构成了一座座小房子 比如一个应用程序 ，形成了一小片一小片的村庄 比如一台服务器 。这个时代 ...
2015-04-22 23:43 0 2546 推荐指数：
相关推荐
Hadoop与大数据平台
一、概念 Hadoop诞生于2006年，一个分布式系统基础架构，由Apache基金会开发。Hadoop的主要目标是对分布式环境下的“大数据”以一种可靠、高效、可伸缩的方式处理。 Hadoop框架透明地为应用提供可靠性和数据移动。它实现了名为MapReduce的编程范式：应用程序被分割成许多 ...
Hadoop（一）之初识大数据与Hadoop
前言 从今天起，我将一步一步的分享大数据相关的知识，其实很多程序员感觉大数据很难学，其实并不是你想象的这样，只要自己想学，还有什么难得呢？ 学习Hadoop有一个8020原则，80%都是在不断的配置配置搭建集群，只有20%写程序！ 一、引言（大数据时代） 1.1、从数据中得到信息 ...
【Hadoop】大数据时代，我们为什么使用hadoop
博客已转移，请借一步说话。http://www.daniubiji.cn/archives/538 我们先来看看大数据时代， 什么叫大数据，“大”，说的并不仅是数据的“多”！不能用数据到了多少TB ，多少PB 来说。 对于大数据，可以用四个词来表示：大量，多样，实时，不确定。 也就 ...
浅谈Hadoop in FusionInsight—华为大数据解决方案的理解
声明：本文档所有内容均在本人的学习和理解上整理，仅供参考，欢迎讨论。不具有权威性，甚至不具有精确性，也会在以后的学习中对不合理之处进行修改。 一、大数据的价值和应用 从2G到3G，再到现在的4G以及即将到来的5G，互联网已经成为绝大多数人生活中不可或缺的必须品。社交平台如微博 ...
浅谈数据仓库和大数据
前言 数据仓库是今年来适应利用数据支持决策分析的强烈需求而发展起来的数据库应用技术，诚然，数据仓库以数据库为基础，但是他在需求、客户、体系结构与运行机制等方面与数据库存在重大的不同，Kimball说:"我们花了二十年的时间往数据库中加入数据，现在该是拿出来使用的时候了。" ---摘自 ...
原来大数据 Hadoop 是这样存储数据的
HDFS概述 产生背景 随着数据量越来越大，在一个操作系统中存不下所有的数据。需要将这些数据分配到更多的操作系统中，带来的问题是多操作系统不方便管理和维护。需要一种系统来管理多台机器上的文件，这就是分布式文件管理系统。HDFS是分布式文件管理系统中的一种 定义 HDFS（Hadoop ...
大数据 ： Hadoop reduce阶段
Mapreduce中由于sort的存在，MapTask和ReduceTask直接是工作流的架构。而不是数据流的架构。在MapTask尚未结束，其输出结果尚未排序及合并前，ReduceTask是又有数据输入的，因此即使ReduceTask已经创建也只能睡眠等待MapTask完成 ...