项目实战从0到1之hive（26）企业级数据仓库构建（八）：搭建DWD 层-业务数据
1.1 DWD 层（业务数据）1.1.1 商品维度表（全量表）1）建表语句 2）数据装载 1.1.2 优惠券信息表（全量）把 ODS 层 ods_coupon_info 表数据导入到 DWD 层优惠卷信息表，在导入过程中可以做适当的清洗1）建表语 ...
原文：项目实战从0到1之hive（25）企业级数据仓库构建（七）：搭建DWD 层
一 数仓搭建 DWD 层 对用户行为数据解析 对核心数据进行判空过滤 对业务数据采用维度模型重新建模，即维度退化 . DWD 层 用户行为启动表数据解析 . . 创建启动表 建表语句 说明：数据采用 parquet 存储方式，是可以支持切片的，不需要再对数据创建索引 . . get json object 函数使用 输入数据 xjson 取出第一个 json 对象 结果是： name : 大郎 , ...
2020-09-23 14:07 0 430 推荐指数：
相关推荐
项目实战从0到1之hive（22）企业级数据仓库构建（四）：数据仓库项目实战
总结1）数仓概念总结【1】数据仓库的输入数据源和输出系统分别是什么？输入系统：埋点产生的用户行为数据、JavaEE 后台产生的业务数据输出系统：报表系统、用户画像系统、推荐系统2）项目需求及架构总结【1】集群规模计算【2】框架版本选型1）Apache：运维麻烦，组件间兼容性需要自己调研。（一般大厂 ...
项目实战从0到1之hive（23）企业级数据仓库构建（五）：数据仓库项目实战
一、电商业务简介1.1 电商业务流程1.2 电商常识（SKU、SPU）SKU=Stock Keeping Unit（库存量基本单位）。现在已经被引申为产品统一编号的简称，每种产品均对应有唯一的 SKU ...
项目实战从0到1之hive（24）企业级数据仓库构建（六）：数仓理论及数仓搭建
一、数仓分层1.1 为什么要分层1.2 数据集市与数据仓库概念1.3 数仓命名规范1.3.1 表命名 ODS层命名为ods_表名 DWD层命名为dwd_dim/fact_表名 DWS层命名为dws_表名 DWT层命名为dwt_购物车 ADS层命名为ads_表名 临时表 ...
项目实战从0到1之hive（18） 企业级数据仓库构建（一）
一、数据仓库 数据仓库（Data Warehouse），是为企业所有决策制定过程，提供所有系统数据支持的战略集合通过对数据仓库中数据的分析，可以帮助企业，改进业务流程、控制成本、提高产品质量等数据仓库，并不是数据的最终目 的地，而是为数据最终的目的地做好准备。这些准备包括对数据的：清洗，转义 ...
企业级数据仓库是什么
一、数据仓库定义 简单理解：数据仓库就是整合多个数据源的历史数据进行细粒度的、多维的分析，帮助高层管理者或者业务分析人员做出商业战略决策或商业报表。 官方定义：数据仓库是一个面向主题的（主题明确）、集成的（从不同的数据源采集到同一个数据源）、随时间变化的（关键数据是可变的可更新的）、但信息 ...
数据仓库 业务数仓 DWD层
业务数仓的DWD层一般有两个典型操作： ①因为是DWD层，所以要进行数据清洗。 ②因为数据来源于web项目的数据库，标的设计遵循三范式，因此在数仓里需要进行降维，以减少join次数。 在示例的8张表中，订单表，订单详情表，用户表，支付流水表字段与ODS层一致。对商品表的分类进行降维。增加二级 ...
构建企业级数据湖？Azure Data Lake Storage Gen2实战体验（上）
背景 相较传统的重量级OLAP数据仓库，“数据湖”以其数据体量大、综合成本低、支持非结构化数据、查询灵活多变等特点，受到越来越多企业的青睐，逐渐成为了现代数据平台的核心和架构范式。 数据湖的核心功能，简单地可以分为数据存储与数据查询计算两个部分，在云端可以有多种的实现选择。在之前的文章中 ...