花费 21 ms
美团点评基于 Flink 的实时数仓建设实践

引言 近些年,企业对数据服务实时化服务的需求日益增多。本文整理了常见实时数据组件的性能特点和适用场景,介绍了美团如何通过 Flink 引擎构建实时数据仓库,从而提供高效、稳健的实时数据服务。此前我们 ...

Fri Oct 19 18:45:00 CST 2018 2 16971
Kafka服务不可用(宕机)问题踩坑记

背景 某线上日志收集服务报警,打开域名报502错误码。 收集服务由2台netty HA服务器组成,netty服务器将客户端投递来的protobuf日志解析并发送到kafka,打开其中一个应用的日志, ...

Sat Aug 03 02:06:00 CST 2019 2 6435
用户画像标签体系——从零开始搭建实时用户画像(三)

用户画像标签体系 ​ 用户画像的核心在于给用户“打标签”,每一个标签通常是人为规定的特征标识,用高度精炼的特征描述一类人,例如年龄、性别、兴趣偏好等,不同的标签通过结构化的数据体系整合,就可与组 ...

Thu May 28 19:04:00 CST 2020 0 8711
Spark Streaming实时写入数据到HBase

一、概述   在实时应用之中,难免会遇到往NoSql数据如HBase中写入数据的情景。题主在工作中遇到如下情景,需要实时查询某个设备ID对应的账号ID数量。踩过的坑也挺多,举其中之一,如一开始选择使 ...

Sat Feb 11 05:51:00 CST 2017 0 17038
一文读懂大数据实时计算

​ 本文分为四个章节介绍实时计算,第一节介绍实时计算出现的原因及概念;第二节介绍实时计算的应用场景;第三节介绍实时计算常见的架构;第四节是实时数仓解决方案。 一、实时计算 实时计算一般 ...

Mon Jul 12 17:53:00 CST 2021 0 1444
什么是用户画像——从零开始搭建实时用户画像(一)

用户画像 简介 ​ 用户画像,作为一种勾画目标用户、联系用户诉求与设计方向的有效工具,用户画像在各领域得到了广泛的应用。 用户画像最初是在电商领域得到应用的,在大数据时代背景下,用户信息充斥在网 ...

Thu May 21 18:00:00 CST 2020 0 5156
用户画像系统架构——从零开始搭建实时用户画像(二)

​ ​ 在《什么的是用户画像》一文中,我们已经知道用户画像对于企业的巨大意义,当然也有着非常大实时难度。那么在用户画像的系统架构中都有哪些难度和重点要考虑的问题呢? 挑战 大数据 随着 ...

Mon May 25 17:23:00 CST 2020 1 4503
基于Kafka的实时计算引擎如何选择?Flink or Spark?

1.前言 目前实时计算的业务场景越来越多,实时计算引擎技术及生态也越来越成熟。以Flink和Spark为首的实时计算引擎,成为实时计算场景的重点考虑对象。那么,今天就来聊一聊基于Kafka的实时计算 ...

Mon Jun 03 17:13:00 CST 2019 0 3613
你了解实时计算吗?

实时计算是什么?## 请看下面的图: 我们以热卖产品的统计为例,看下传统的计算手段: 将用户行为、log等信息清洗后保存在数据库中. 将订单信息保存在数据库中. 利用触发器或者 ...

Mon Jul 27 14:10:00 CST 2015 22 10407

 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM