上一篇使用Docker搭建了Hadoop的完全分布式：使用Docker搭建Hadoop集群(伪分布式与完全分布式)，本次记录搭建spark集群，使用两者同时来实现之前一直未完成的项目：网站日志流量分析系统（该系统目前用虚拟机实现了离线分析模块，实时分析由于资源问题尚未完成---这次spark ...

网站日志实时分析工具GoAccess使用 系统环境CentOS release 5.5 (Final) GoAccess是一款开源的网站日志实时分析工具。 GoAccess 的工作方式就是读取和解析 Apache/Nginx/Lighttpd 的访问日志文件 access log ...

导读：随着数据量的快速增长，越来越多的企业迎来业务数据化时代，数据成为了最重要的生产资料和业务升级依据。本文由阿里AnalyticDB团队出品，近万字长文，首次深度解读阿里在海量数据实时分析领域的多项核心技术。 数字经济时代已经来临，希望能和业界同行共同探索，加速行业数字化升级，服务更多 ...

python随着人工智能的发展，越来越火热。但其实python在运维测试方面，也是一把利器。 最近就碰到了个需求，就顺手写了个python程序。用惯了go，不过发现python好像更简单点 😃 涉及 ...

第1章 SparkStreaming概述 1.1 Spark Streaming是什么 　　Spark Streaming用于流式数据的处理。Spark Streaming支持的数据输入源 ...

原文地址：https://yq.aliyun.com/articles/227006 阿里云日志服务是针对日志类数据一站式服务，用户只需要将精力集中在分析上，过程中数据采集、对接各种存储计算、数据索引和查询等琐碎工作等都可以交给服务。2017年9月日志服务加强日志实时分析功能（LogSearch ...

网站独立访客数（UV）的统计 　　另外一个统计流量的重要指标是网站的独立访客数（Unique Visitor，UV）。UV指的是一段时间（比如一小时）内访问网站的总人数，1 天内同一访客的多次访问 只记录为一个访客。通过 IP 和 cookie 一般是判断 UV 值的两种方式 ...

先启动spark-shell,记得启动nc服务 输入以下代码 在nc输入几个单词 我们再输 ...