声明：此文供学习使用，原文：https://blog.csdn.net/xiaobaismiley/article/details/41015783 【实验背景】 项目中需要对数据库中一张表进行重新设计，主要是之前未分区，考虑到数据量大了以后要设计成分区表，同时要对数据库中其他表做好备份恢复 ...

千万级数据量 方案1、 直接使用delete 因delete执行速度与索引量成正比，若表中索引量较多，使用delete会耗费数小时甚至数天的时间 方案2、 （1）创建临时表，表结构与原表结构相同 （2）将需要保留的数据插入至临时表中 ...

由于工作需要，需要往数据库导入大量的数据，一开始用的 navicat 的导入功能导入 xlsx 数据文件（如果数据量少的话还是很推荐这个软件），后来发现每次导真的太慢了，所以就去用 mysql 命令导入 csv。 数据处理 由于测试需要，需要往数据库导入大量的数据，一开始用的 navicat ...

1. 什么是数据仓库？ 在wiki中对数据仓库的解释是： 　　在计算中，数据仓库（DW或DWH），也称为企业数据仓库（EDW），是用于报告和数据分析的系统，被认为是商业智能的核心组成部分 DW是来自一个或多个不同来源的集成数据的中央存储库。 他们将当前和历史数据存储在一个地方，用于为整个企业 ...

声明： 1. 本栏是个人总结，如有错漏，请指正 2. 数据仓库的构建目前业界只有指导方案，并没有统一的标准，每个公司都可以按照实际情况进行设计 3. 本总结参考《阿里巴巴大数据之路》、《数据仓库工具箱》 产生背景 ...

第一章 数仓搭建-ODS层 1）保持数据原貌不做任何修改，起到备份数据的作用。 2）数据采用LZO压缩，减少磁盘存储空间。100G数据可以压缩到10G以内。 3）创建分区表，防止后续的全表扫描，在企业开发中大量使用分区表。 4）创建外部表。在企业开发中，除了自己用的临时表，创建内部表外 ...

1． 主题性 数据仓库是一般从用户实际需求出发，将不同平台的数据源按设定主题进行划分整合，与传统的面向事务的操作型数据库不同，具有较高的抽象性。面向主题的数据组织方式，就是在较高层次对分析对象数据的一个完整、统一并一致的描述，能完整及统一地刻画各个分析对象所涉及的有关企业的各项数据，以及数据 ...

1、为什么要分层 在未分层的情况下，数据之间的耦合性与业务耦合性是不可避免的，当源业务系统的业务规则发生变化时，可能影响整个数据的清洗过程。这就好比把衬衫、裤子、袜子、外套分类存放整理 就比 打散之后不分类的整理哪一种更让人舒服，更容易找呢？ 2、分层的好处 数据分层简化了数据清洗的过程 ...