【原创】大数据基础之Logstash（5）监控
有两种方式来监控logstash： api ui（xpack） When you run Logstash, it automatically captures runtime metrics that you can use to monitor the health ...
原文：大数据基础---Spark车辆监控项目
一 项目简介 这是一个车辆监控项目。主要实现了三个功能： .计算每一个区域车流量最多的前 条道路。 .计算道路转换率 .实时统计道路拥堵情况 当前时间，卡口编号，车辆总数，速度总数，平均速度 二 项目结构 TrafficBySparkAndKafka data src main java vip producedate hive 模拟数据到文件和Hive shuai boy trafficTemp ...
2020-05-08 17:54 0 566 推荐指数：
相关推荐
大数据监控
数据作为大数据系统的核心，需要进行监控，合理的监控与报警策略不但可以帮助我们快速发现和定位故障，而且还可以智能化的预测可能发生的问题。我们可以根据业务的规则制定重点的监控指标，保证数据具备高质量。 在大数据的监控中，对数据质量进行监控是最为直接的。因为从数据使用者的角度来说 ...
【原创】大数据基础之Hadoop（3）yarn数据收集与监控
yarn常用rest api 1 metrics # curl http://localhost:8088/ws/v1/cluster/metrics The cluster metr ...
【原创】大数据基础之Kudu（4）spark读写kudu
spark2.4.3+kudu1.9 1 批量读 2 批量写 3 单个读/条件读 4 单个写 其他：newInsert/newUpdate/newDelete/newUpsert 5 错误定位 如果apply之后发现修改 ...
Spark快速大数据分析之RDD基础
Spark 中的RDD 就是一个不可变的分布式对象集合。每个RDD 都被分为多个分区，这些分区运行在集群中的不同节点上。RDD 可以包含Python、Java、Scala中任意类型的对象，甚至可以包含用户自定义的对象。 用户可以使用两种方法创建RDD：读取一个外部数据集，或在 ...
【原创】大数据基础之Hive（5）hive on spark
hive 2.3.4 on spark 2.4.0 Hive on Spark provides Hive with the ability to utilize Apache Spark as its execution engine. set ...
大数据架构之:Spark
Spark是UC Berkeley AMP 实验室基于map reduce算法实现的分布式计算框架，输出和结果保存在内存中，不需要频繁读写HDFS，数据处理效率更高Spark适用于近线或准实时、数据挖掘与机器学习应用场景 Spark和Hadoop Spark是一个针对超大数据 ...
大数据篇：Spark
大数据篇：Spark Spark是什么 Spark是一个快速（基于内存），通用，可扩展的计算引擎，采用Scala语言编写。2009年诞生于UC Berkeley(加州大学伯克利分校，CAL的AMP实验室)，2010年开源，2013年6月进入Apach孵化器，2014年成 ...