业务数仓的DWD层一般有两个典型操作： ①因为是DWD层，所以要进行数据清洗。 ②因为数据来源于web项目的数据库，标的设计遵循三范式，因此在数仓里需要进行降维，以减少join次数。 在示例的8张表中，订单表，订单详情表，用户表，支付流水表字段与ODS层一致。对商品表的分类进行降维。增加二级 ...

ODS（Operational Data Store）：原始数据层，存放原始数据，直接加载原始日志、数据，数据保持原貌不做处理。 在ODS一般需要2个重要的步骤，示例如下： 1.建立ODS层的Hive表。 重要说明： ①ODS层存放的是原始数据，因此只需要一个字段就行 ...

1. 引言 本篇主要讲述操作数据存储（ODS）系统产生的背景、定义、特点，以及它与数据仓库的区别。在前两篇，笔者介绍了什么是数据仓库？为什么需要数据仓库？数据仓库系统的体系结构是什么？因此可能在读者心里已经形成了企业数据存储的DB~DW两层体系结构的概念，但在实际应用中，并不总是这样，有时候 ...

  本文原链接：什么是数据仓库，数仓有什么特点   数据仓库，简称数仓，英文名称为Data Warehouse，可简写为DW或DWH。数据仓库，是为企业所有级别的决策制定过程，提供所有类型数据支持的战略集合。它是单个数据存储，出于分析性报告和决策支持目的而创建。 为需要业务智能的企业，提供指导 ...

  目前主流的数据仓库分层大多为四层,也有五层的架构，这里介绍基本的四层架构。 分别为数据贴源层(ods)、数据仓库明细层(dw)、多维明细层(dws)和数据集市层(dm)。   下面是架构图：   数据分层的目的是：减少重复计算，避免烟囱式开发，节省计算资源，靠上层次，越对应 ...

DWD（Data Warehouse Detail）：数据明细层，结构和粒度与原始表保持一致，对ODS层数据进行清洗（取出空值、脏数据、超过极限范围的数据）。 DWD层的数据来源于ODS原始数据层，在原始数据层的Hive表里，只有一个字段，存储了原始的一条条日志信息，下面以事件（如商品点击事件 ...

我在公司的数据部门工作，每天的订单类数据处理流程大致如下： 删除分析数据库的历史订单数据 全量更新订单数据到分析数据库。（由于订单核心数据不大，所以经受得起这么折腾） 将数据简单清洗，并生成数据集市层 分析处理，产出报表。当然还有其他的数据也是这么处理的（比如产品的数据、景区 ...

我在公司的数据部门工作，每天的订单类数据处理流程大致如下： 删除分析数据库的历史订单数据 全量更新订单数据到分析数据库。（由于订单核心数据不大，所以经受得起这么折腾） 将数据简单清洗，并生成数据集市层 分析处理，产出报表。当然还有其他的数据也是这么处理的（比如产品的数据、景区 ...