DWD（Data Warehouse Detail）：数据明细层，结构和粒度与原始表保持一致，对ODS层数据进行清洗（取出空值、脏数据、超过极限范围的数据）。 DWD层的数据来源于ODS原始数据层，在原始数据层的Hive表里，只有一个字段，存储了原始的一条条日志信息，下面以事件（如商品点击事件 ...

ODS层数据不做任何处理，完全仿照业务数据库中的表字段，一模一样的创建ODS层对应表。 8张表建表语句： ①用sqoop把导入到HDFS的时候，加了参数--fields-terminated-by "\t"，因此这里ODS层建表的时候也注意相同的分隔符。 ②不管是全量导入还是其他形式，都使 ...

业务数仓的DWD层一般有两个典型操作： ①因为是DWD层，所以要进行数据清洗。 ②因为数据来源于web项目的数据库，标的设计遵循三范式，因此在数仓里需要进行降维，以减少join次数。 在示例的8张表中，订单表，订单详情表，用户表，支付流水表字段与ODS层一致。对商品表的分类进行降维。增加二级 ...

1. 引言 本篇主要讲述操作数据存储（ODS）系统产生的背景、定义、特点，以及它与数据仓库的区别。在前两篇，笔者介绍了什么是数据仓库？为什么需要数据仓库？数据仓库系统的体系结构是什么？因此可能在读者心里已经形成了企业数据存储的DB~DW两层体系结构的概念，但在实际应用中，并不总是这样，有时候 ...

为什么需要用户行为宽表？把每个用户单日的行为聚合起来组成一张多列宽表，以便之后关联用户维度信息后，进行不同角度的统计分析。 数据来源：DWD层相关的业务数据表 创建用户行为宽表： 这张宽表整合了下单、支付和评论3种行为。 数据导入脚本： with as基本语法为如下，作用 ...

  本文原链接：什么是数据仓库，数仓有什么特点   数据仓库，简称数仓，英文名称为Data Warehouse，可简写为DW或DWH。数据仓库，是为企业所有级别的决策制定过程，提供所有类型数据支持的战略集合。它是单个数据存储，出于分析性报告和决策支持目的而创建。 为需要业务智能的企业，提供指导 ...

  目前主流的数据仓库分层大多为四层,也有五层的架构，这里介绍基本的四层架构。 分别为数据贴源层(ods)、数据仓库明细层(dw)、多维明细层(dws)和数据集市层(dm)。   下面是架构图：   数据分层的目的是：减少重复计算，避免烟囱式开发，节省计算资源，靠上层次，越对应 ...

我在公司的数据部门工作，每天的订单类数据处理流程大致如下： 删除分析数据库的历史订单数据 全量更新订单数据到分析数据库。（由于订单核心数据不大，所以经受得起这么折腾） 将数据简单清洗，并生成数据集市层 分析处理，产出报表。当然还有其他的数据也是这么处理的（比如产品的数据、景区 ...