问题:在Jmeter图形界面运行脚本,运行到中途软件突然卡死;命令行运行脚本做性能测试,生成了大量数据,在图形界面中读取数据的时候卡死。 因此怀疑前一个图形界面卡死的原因也是因为数据量过大。 解决方法: - 用记事本(或者其他文本编辑器)编辑jmeter路径下的bin ...
问题: 注意到自己负责kafka的某个topic最小的偏移量为 ,而最大的偏移量都 亿多了,说明存储在kafka里面的数据没有定时删除,通过登陆到kafka服务器,查看配置文件services.properties,发现log.retention.hours 年 ,我猜想配置kafka的人是怕数据丢失,直接保存了所有的数据。 方法: 我这边修改为log.retention.hours 半年,根据实 ...
2019-04-26 11:00 0 3999 推荐指数:
问题:在Jmeter图形界面运行脚本,运行到中途软件突然卡死;命令行运行脚本做性能测试,生成了大量数据,在图形界面中读取数据的时候卡死。 因此怀疑前一个图形界面卡死的原因也是因为数据量过大。 解决方法: - 用记事本(或者其他文本编辑器)编辑jmeter路径下的bin ...
今天发布了新小组的第一个任务,这个任务是统计销售一段时间的数据,统计完成后再序列化存入到数据库一个text字段。当统计线上全部的销售时,因为线上有离职销售,所以统计出来的数据量就超过了text字段长度(65535),导致数据没有存放下。 后来和组长讨论了下,打算将离职销售全部归为一类展示 ...
一、前言 java 中MySQL JDBC 封装了流式查询操作,通过设置几个参数,就可以避免一次返回数据过大导致 OOM。 二、如何使用 2.1 之前查询 2.2 现在流式查询 可知只是prepareStatement时候改变了参数,并且设置 ...
接手了同事的项目,其中有一个功能是保存邮件模板(包含图片),同事之前的做法是把图片进行base64编码然后存在mysql数据库中(字段类型为mediumtext)然后保存三张图片(大概400k)的时候报错MySQL server has gone away 然后查看官方文档https ...
https://www.jianshu.com/p/0339c6fe8b61 https://blog.csdn.net/weixin_43221845/article/details/848713 ...
纵向切分表 将一个表按照字段切分成两个或者多个表,将常用的字段切分到一张表中,分布式存储 横向切分 有两种方式,一是按照特定的数据量,将表切分成不同的表(表结构一致)来存储,新数据插入到新表中,新表的数据量达到约定拆分的数据量时,再建立新表存储;二是按照某种特定的规则来切分表,然后分布式存储 ...
问题:使用poi导出excel,数据量过大导致内存溢出 解决思路:1、多sheet导出 2、生成多个excel打包下载 3、生成csv下载 本文使用的是第二个思路,代码如下: poiUtil工具类 fileUtil工具类 测试方法 ...
在处理中,如果不是一直刷新后报错下载不了,数据量小200条都可以导出,但到2000 导出不了,而且立马报错,可能是引入但phpExcel版本低但问题! 不一定都是php-fpm nginx 底层配置的问题,也可能是代码的问题! ...