当需要处理数据量太多,此时可以分批处理,代码如下: ...
一 场景 在开发excel处理数据时,因为数据库的卡顿,一次插入 条数据速度可能需要 min左右,所以考虑使用线程池 每 个分组,有n组,就开 n 个线程去分批同时处理这些数据。 二 依赖 . pom.xml . excel的表格只有一个字段就是keyword,示例如下: . 数据库:t keyword 只有一个字段keyword,并且加唯一索引 三 代码 dao.java dealExcel.j ...
2019-07-11 17:40 0 958 推荐指数:
当需要处理数据量太多,此时可以分批处理,代码如下: ...
任务类: 测试类: ...
<!-- https://mvnrepository.com/artifact/org.apache.commons/commons-collections4 --> ...
...
最近由于业务需要,数据量比较大,需要使用多线程来分批处理,提高处理效率和能力,于是就写了一个通用的多线程处理工具,只需要实现自己的业务逻辑就可以正常使用,现在记录一下 主要是针对大数据量list,将list划分多个线程处理 ResultBean类: 返回结果统一bean ...
前言: 前几天有运营部门人员反应派发红包很慢,经常出现504或者无响应,于是由我这边进行一个优化后,发放速度由原来的超时或者1分钟变为几秒。 发放流程: 活动后台导入一个xls表格,大概2W左右条,经过后台的筛选处理等逻辑后会循环调用插入数据库的代码。 优化过程 ...
前几天遇到一个问题是,数据库一开始有24W是信息,需要取出来,进行下载到excel中。一开始遇到的问题是,excel表格行只有65535条行数,远远不够,有人说了很多其他解决方式,为了快速开发我就直接使用了导出txt文本文件的方式,解决了筛选数据的问题。但是第二天,由于XXXXX活动增量很快 ...
/** * Mongo中要处理的数据量比较多时,可以进行分批量处理 * 使用MongoTemplate分批进行处理数据 * skip(num).limit(10000) 跳过num条数据后,取10000条数据 */ public static void main(String[] args ...