原文:记一次大数据量后台服务的性能优化

背景 最近被分配到的一个需求,数据量每周新增上千万,预计两个月就会破亿,这里记录一下对这个服务的性能优化的过程。 正文 需求介绍 首先大致介绍一下这个需求的内容。这个需求是一个周报服务,每周日向用户推送他本周使用服务的时常,最晚使用时间等统计数据,这应该是很多应用都有实现的功能。而对于后台服务来说,只需要提供一个接口,它实现的功能就是去查询用户的周报数据。但是这个服务的用户量庞大,有数千万,而被筛 ...

2021-07-18 23:45 21 4444 推荐指数:

查看详情

一次大数据量导出优化--借助xml导出xls、xlsx文件

最近遇到一个问题,线上生产环境某个功能导出数据到excel文件非常缓慢,几万数据导十多分钟都导不出来,导出慢的原因一是主表A数据量太大,接近2亿,另外里面部分数据来自于另外一张表B,B表也是几千万的数据量数据库层面能做的优化已经做了,视图、索引这些工具都上了(没有分表是一开始项目设计阶段就没考虑 ...

Wed Dec 22 00:53:00 CST 2021 0 817
大数据量下js性能优化

循环中需要注意的 对于大量的循环要用for来进行,它是最快的 数组内元素定位,indexOf() > map() > object() ,扩展,可以重写Array.phptot ...

Mon Mar 07 19:27:00 CST 2022 0 697
MySQL大数据量分页性能优化

mysql大数据量使用limit分页,随着页码的增大,查询效率越低下。 测试实验 1. 直接用limit start, count分页语句, 也是我程序中用的方法: select * from product limit start, count当起始页较小 ...

Mon Aug 15 18:38:00 CST 2016 4 25257
数据性能优化一:数据库自身优化大数据量

  数据优化包含以下三部分,数据库自身的优化数据库表优化,程序操作优化.此文为第一部分   数据性能优化一:数据库自身优化   优化①:增加次数据文件,设置文件自动增长(粗略数据分区) 1.1:增加次数据文件   从SQL SERVER 2005开始,数据库不默认生成NDF ...

Wed Dec 26 00:54:00 CST 2012 11 18556
数据性能优化一:数据库自身优化大数据量

数据优化包含以下三部分,数据库自身的优化数据库表优化,程序操作优化.此文为第一部分   数据性能优化一:数据库自身优化   优化①:增加次数据文件,设置文件自动增长(粗略数据分区) 1.1:增加次数据文件   从SQL SERVER 2005开始,数据库不默认生成NDF数据 ...

Wed Aug 14 01:24:00 CST 2019 0 676
 
粤ICP备18138465号  © 2018-2025 CODEPRJ.COM