今天和大家分享下我作为大数据测试工程师对ETL测试的一些认识。 一、ETL测试工程师的主要责任 对于一个ETL测试工程师而言,其关键的责任有三大类:1. 源数据分析(包含:数据库表、文本等类型数据分析)2. 业务转换逻辑实现(包含:code diff,目标表全量数据的逻辑实现验证)3. ...
一 ETL测试的重要性: ETL Extract Transform Load的缩写,即数据抽取 转换 装载的过程 作为BI DW Business Intelligence 的核心和灵魂,能够按照统一的规则集成并提高数据的价值,是负责完成数据从数据源向目标数据仓库转化的过程,是实施数据仓库的重要步骤。如果说数据仓库的模型设计是一座大厦的设计蓝图,数据是砖瓦的话,那么ETL就是建设大厦的过程。在整 ...
2017-02-09 17:16 0 2616 推荐指数:
今天和大家分享下我作为大数据测试工程师对ETL测试的一些认识。 一、ETL测试工程师的主要责任 对于一个ETL测试工程师而言,其关键的责任有三大类:1. 源数据分析(包含:数据库表、文本等类型数据分析)2. 业务转换逻辑实现(包含:code diff,目标表全量数据的逻辑实现验证)3. ...
一、ETL测试的重要性: ETL(Extract-Transform-Load的缩写,即数据抽取、转换、装载的过程)作为BI/DW(Business Intelligence)的核心和灵魂,能够按照统一的规则集成并提高数据的价值,是负责完成数据从数据源向目标数据仓库转化的过程,是实施数据仓库 ...
在我们了解ETL测试之前,先了解有关商业智能和数据仓库的重要性。 让我们开始吧 - 什么是BI? 商业智能是收集原始数据或业务数据并将其转化为有用和更有意义的信息的过程。 原始数据是一个组织每日事务的记录,如与客户的互动,财务管理和员工管理等。 这些数据将用于“报告,分析 ...
前言 datalake架构 离线数据 ODS -> DW -> DM https://www.jianshu.com/p/72e395d8cb33 https://www. ...
概述 在我们学习ETL测试之前,先了解下business intelligence(即BI)和数据仓库。 什么是BI? BI(Business Intelligence)即商务智能,它是一套完整的解决方案,用来将企业中现有的数据(原始数据或商业数据或业务数据等)进行有效的整合,快速准确 ...
ETL,是英文 Extract-Transform-Load 的缩写,用来描述将数据从来源端经过抽取(extract)、交互转换(transform)、加载(load)至目的端的过程。ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程,因而也称为数据仓库技术。其目的是将分散 ...
ETL,是英文Extract-Transform-Load的缩写,用来描述将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程。 ETL的质量问题具体表现为正确性、完整性、一致性、完备性、有效性、时效性和可获取性等几个特性。 要实现ETL,首先要 ...