前言 前面我们主要分析了搭建Hadoop集群所需要准备的内容和一些提前规划好的项，本篇我们主要来分析如何安装CentOS操作系统，以及一些基础的设置，闲言少叙，我们进入本篇的正题。 技术准备 V ...

前言 上一篇我们讲解了Hadoop单节点的安装，并且已经通过VMware安装了一台CentOS 6.8的Linux系统，咱们本篇的目标就是要配置一个真正的完全分布式的Hadoop集群，闲言少叙，进入 ...

时间仓促，仅为了数学建模入门使用 代码简单描述： 随机生成一组数据 手动添加奇怪的数据值 使用数据判断对数据进行清洗 生成直方图、求平均值对处理前、处理后的数据进行对比 代码如下： 删除重复的行 使用unique函数 9/15更新 ...

jmeter 参数化大数据取唯一值方式 一、用时间函数： 因为时间戳永远没有重复，jmeter参数化，而且要取唯一值，可以考虑用时间函数加上其他函数一起： 每次输出的结果都不 ...

1、概述 Presto是一个分布式SQL查询引擎，用于查询分布在一个或多个不同数据源中的大数据集。presto可以通过使用分布式查询，可以快速高效的完成海量数据的查询。它是完全基于内存的，所以速度非常快。presto不仅可以查询HDFS，还可以查询RDMBS数据库。 具体的介绍可以参考 ...

ETL 概念 ETL 这个术语来源于数据仓库，ETL 指的是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程。ETL 的目的是将企业中的分散、零乱、标准不统一的数据整合到一起，为企业的决策提供分析依据。 ETL是 BI 项目重要的一个环节。 通常情况下，在 BI 项目中 ETL ...

当前的公司是专业从事气象软件开发，从气象大数据对大数据有一些自己的认识。2008年 《自然》杂志提出“大数据”概念 ，而2013为公认的大数据元年。 大数据不仅包含数据，还包括处理数据的工具和技术。一般会经过采集->存储->处理->分析四个阶段，其实处 ...