1.问题背景 　　设计到几十张数据库表，每张表有几万到十几万数据不等，现在需要尽可能快的导出excel数据。 2.遇到的问题及解决思路 　　2.1 数据量大，生成速度慢。下载的文件太大。 　　　　　使用多线程下载，一个表的数据分配一条线程，全部下载完成压缩成一个zip文件 ...

一、前言 程序访问 MySQL 数据库时，当查询出来的数据量特别大时，数据库驱动把加载到的数据全部加载到内存里，就有可能会导致内存溢出（OOM）。 其实在 MySQL 数据库中提供了流式查询，允许把符合条件的数据分批一部分一部分地加载到内存中，可以有效避免OOM；本文主要介绍如何使用流式 ...

批处理、以及预编译 String url = “jdbc:mysql://localhost:3306/U ...

　　最近在公司备份数据库数据，简单的看了一下。当然我用的是简单的手动备份。 　　第一：其实最好的方法是直接用： 　　mysqldump -u用户名 -p密码 数据库名 < 数据库名.sql 在linux在操作的，测试过一个一万多行的导入数据，共121m。在linux下，几秒 ...

近期项目中遇到一个问题，有一批数据，少则几百条，多则上万条，需要向数据库中进行插入和更新操作，即：当数据库中有数据时，更新之，没有数据时，插入之。 解决问题的步骤如下： 首先想到的当然是用先根据条件select count(*) from table where "case"，判断select ...

不管是日常业务数据处理中，还是数据库的导入导出，都可能遇到需要处理大量数据的插入。插入的方式和数据库引擎都会对插入速度造成影响，这篇文章旨在从理论和实践上对各种方法进行分析和比较，方便以后应用中插入方法的选择。 插入分析 MySQL中插入一个记录需要的时间由下列因素组成，其中的数字表示大约比例 ...

Excel下载 　　首先大数据量的下载，一般的Excel下载操作是不可能完成的，会导致内存溢出 　　SXSSFWorkbook 是专门用于大数据了的导出　　 　　构造入参rowAccessWindowSize 　　这个参数，会指定一个sheet可读取的row数目，超过该数目的row ...

在工作中，同事遇到一个需要批量生成不重复码的功能，之前我处理的都是用php 直接用数组 in_array解决的，那时候生成的数量倒还不多，大概也就几万个，所以直接将php的运行内存提高一点，然后就解决问题了。但是这次要处理的数据量比较大，是五千万个，就容易出现问题。 首先，运行内存是肯定不够 ...