一、ODS层 1、保持数据原貌,不做任何修改 2、数据压缩:LZO压缩,减少磁盘空间 3、创建的是分区表:可以防止后续的全表扫描 包括 用户行为:string line dt ods_start; ods_event(商品列表、商品详情 ...
一 DWS层 概括 dwd层的数据,每日轻度聚合,建宽表 表名 粒度 dws uv detail daycount 一个设备是一行 dws user action daycount 只统计今天登录的会员 一个会员是一行 dws sku action daycount 只统计被下单或平均或支付或加购或收藏的商品 一个商品是一行 dws coupon use daycount 只统计未过期的优惠券 一 ...
2021-12-22 11:30 0 123 推荐指数:
一、ODS层 1、保持数据原貌,不做任何修改 2、数据压缩:LZO压缩,减少磁盘空间 3、创建的是分区表:可以防止后续的全表扫描 包括 用户行为:string line dt ods_start; ods_event(商品列表、商品详情 ...
为什么需要用户行为宽表?把每个用户单日的行为聚合起来组成一张多列宽表,以便之后关联用户维度信息后,进行不同角度的统计分析。 数据来源:DWD层相关的业务数据表 创建用户行为宽表: 这张宽表整合了下单、支付和评论3种行为。 数据导入脚本: with as基本语法为如下,作用 ...
ads层数据往往是最终的结果指标数据,在大屏展示,或者实时流处理时候使用,通过下面两个例子来练习业务大屏展示sql该怎么写。 1.会员分析案例 1.1 数据准备 表结构如下,其中此表是dws层以天为维度的会员表,比如每天的会员信息汇总, 1.2 会员指标计算 沉默会员的定义:只在安装 ...
一、数仓搭建 - DWS 层1.1 业务术语1)用户用户以设备为判断标准,在移动统计中,每个独立设备认为是一个独立用户。Android系统根据 IMEI 号,IOS 系统根据 OpenUDID 来标识一个独立用户,每部手机一个用户2)新增用户首次联网使用应用的用户。如果一个用户首次打开某 APP ...
第1章 DWM层和DWS设计 1.1 设计思路 DWM(Data WareHouse Middle),一般称为数据中间层. 该层会在DWD层的基础上,对数据做轻度的聚合操作,生成一系列的中间表,提升公共指标的复用性,减少重复加工。直观来讲,就是对通用的核心维度进行聚合操作,算出相应的统计 ...
为什么要设计数据分层 ——参考《一种通用的数据仓库分层方法》 这是数据仓库同学在设计数据分层时首先要被挑战的问题,类似的问题可能会有很多,比如说“为什么要做数据仓库?”、“为什么要做元数据管理 ...
...
,电缆,双绞线,无线电波物理层功能:主要基于电器特性发送高低电压(电信号),高电压对应数字1,低电压对应数 ...