1、概述 Presto是一个分布式SQL查询引擎，用于查询分布在一个或多个不同数据源中的大数据集。presto可以通过使用分布式查询，可以快速高效的完成海量数据的查询。它是完全基于内存的，所以速度非常快。presto不仅可以查询HDFS，还可以查询RDMBS数据库。 具体的介绍可以参考 ...

ETL 概念 ETL 这个术语来源于数据仓库，ETL 指的是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程。ETL 的目的是将企业中的分散、零乱、标准不统一的数据整合到一起，为企业的决策提供分析依据。 ETL是 BI 项目重要的一个环节。 通常情况下，在 BI 项目中 ETL ...

当前的公司是专业从事气象软件开发，从气象大数据对大数据有一些自己的认识。2008年 《自然》杂志提出“大数据”概念 ，而2013为公认的大数据元年。 大数据不仅包含数据，还包括处理数据的工具和技术。一般会经过采集->存储->处理->分析四个阶段，其实处 ...

大数据技术 大数据主要涉及到数据的采集、存储、计算和分析、以及管理调度。 数据的采集 数据存储 数据管理调度 数据计算和分析 大数据技术涉及：数据的采集、预处理、和分布式存储、以及数据仓库、机器学习、并行计算和可视化等方面。 对于大数据技术，应用广泛 ...

1 ...

1.为什么产生大数据技术 对于“大数据”（Big data）研究机构Gartner给出了这样的定义。“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。 随着云时代的来临，大数据（Big data）也吸引了越来越多的关注。分析师 ...

一、Scala入门 1.1 概述 1.1.1 为什么学习Scala 主要基于以下几个原因： 1) 大数据主要的批处理计算引擎框架Spark是基于Scala语言开发的 2) 大数据主要的流式计算引擎框架Flink也提供了Scala相应的API ...

大数据 linux操作部分 1.创建用户 进入root身份: su 输入root密码 创建新用户: useradd zhang 给新用户设置密码: passwd zhang 给新用户设置下次登陆时，更改密码: chage -d 0 zhang ...