总体的实现思想为：每次查询出2w数据，并写入到临时文件然后把这些文件写入到一个EXCEL里边，或者把这些文件压缩为zip文件，然后把Zip文件提供给下载(这里使用zip打包是因为，在Linux上也能进行Zip打包)。//这个zip打包工具类
package net.szh.zip;
import java.io.File;
import org.apache.tools.ant.Project;
import org.apache.tools.ant.taskdefs.Zip;
import org.apache.tools.ant.types.FileSet;
public ...
http://www.360doc.com/content/14/0726/00/11962419_397102114.shtml LVS的全称Linux vitual system,是由目前阿里巴巴的著名工程师章文嵩博士开发的一款开源软件。LVS工作在一台server上提供Directory(负载均衡器)的功能，本身并不提供服务，只是把特定的请求转发给对应的realserver(真正提供服务的主机)，从而实现集群环境中的负载均衡。LVS的核心组件ipvs工作在kernel中，是真正的用于实现根据定义的集群转发规则把客户端的请求...
---方法1: 直接使用数据库提供的SQL语句---语句样式: MySQL中,可用如下方法: SELECT * FROM 表名称 LIMIT M,N---适应场景: 适用于数据量较少的情况(元组百/千级)---原因/缺点: 全表扫描,速度会很慢 且 有的数据库结果集返回不稳定(如某次返回1,2,3,另外的一次返回2,1,3). Limit限制的是从结果集的M位置处取出N条输出,其余抛弃.
---方法2: 建立主键或唯一索引, 利用索引(假设每页10条)---语句样式: MySQL中,可用如下方法: SELECT * ...
需求是：对于一个设备，求一天内每个小时的平均值，一个月内每天的平均值，更通用的需求是，从起始时间到结束时间，每隔一段时间，求一个平均值。目前的解决策略是：在存储过程中进行处理，从起始时间到结束时间，切割成段，求出每一段的平均值，合并起来。存在问题：数据量很大的时候，会存在严重的性能问题。比如：一个月内每天的平均值，这个涉及的数据量将非常大，查询非常耗时。目前没有做过基准测试，具体的时间消耗还不确定...
大量数据从数据库里全部查出来，然后再生成报表输出到 web 端，一般需要很长时间，用户体验很差，而且报表一般采用内存计算，全读入的话也容易爆掉内存。所以大数据量报表呈现时都是采用分页的方式，尽量快速呈现第一页，用户也可以随意翻页，每次显示的一页数据量比较小，也就不会内存溢出。大部分报表工具通常是使用数据库的分页机制。利用数据库提供的返回指定行号范围内记录的语法，即界面端根据当前页号计算出行号范围（每页显...
问题：element UI 中 select 数据量太大，渲染太慢怎么处理？处理方式： <el-select v-model="ruleForm.animalOwnerId" filterable style="width:100%;" placeholder="请选择养殖户" clearable :filter-method="animalOwnerD"> <el-option v-for="item in ownerTop200" :key="item.value" :label="item.name" :value="item.value"></el-option> </el-select> methods：{ //ownerList 大数据量集合 //ownerTop...
关于tomcat的一个优化问题：
有时候保存大数据量的数据时，tomcat不优化的话，页面会没反应，tomcat后台并不报错，只是提示下面内容：
警告: More than the maximum number of request parameters (GET plus POST) for a s
ingle request ([10,000]) were detected. Any parameters beyond this limit have be
en ignored. To change this limit, set the maxParameterCount attribute on the Con
nector.
如果遇到此问题，就要进行...
一、数据库结构的设计如果不能设计一个合理的数据库模型，不仅会增加客户端和服务器段程序的编程和维护的难度，而且将会影响系统实际运行的性能。所以，在一个系统开始实施之前，完备的数据库模型的设计是必须的。在一个系统分析、设计阶段，因为数据量较小，负荷较低。我们往往只注意到功能的实现，而很难注意到性能的薄弱之处，等到系统投入实际运行一段时间后，才发现系统的性能在降低，这时再来考虑提高系统性能则要花费更多的...
本文系统来源：http://blog.csdn.net/zwan0518/article/details/11972853
在一个网站广告系统中, 需要针对每一个用户所接受的弹窗次数和点击次数这两个重要指标进行统计, 从而进行效果分析和精准投放的改进. 这两个指标的统计算法其实非常简单, 主要的难点在于大数据量. 广告系统的涉及的用户量达到数千万人, 每天的日志数据量是几在一个网站广告系统中, 需要针对每一个用户所接受的弹窗次数和点击次数这两个重要指标进行统计, 从而进行效果分析和精准投放的改进. 这两个指标的统计算法其实非常简单, 主要...
问题解决：生成的树是逐级加载的，在open函数中有一个生成节点的代码： 代码 代码如下:for (var i=0; i<data.length; i++) { var n = TREE_OBJ.create(data[i], $(NODE)); if (onaddnode) onaddnode(n); } var firstChild = TREE_OBJ.children(NODE)[0]; if ($(firstChild).attr(id)==-1) TREE_OBJ.remove(firstChild); 问题就出 TREE_OBJ.create函数上，这个函数很消耗性能。代码改成如下： 代码 代码如下:var children=""...
在大数据量下有什么分页方法？LIMIT效率不高回复内容：在大数据量下有什么分页方法？LIMIT效率不高$sql = "select *from user where id>{$id} limit 10";$id为上一页最大的值把数据缓存下来吧，或许应该考虑一下重构数据库结构了上sphinx ...不知道你用什么数据库，是否支持流模式返回数据（streaming）？数据量大的话，适合使用streaming模式，这样数据可以一边执行一边返回数据，不会将所有数据都缓存在内存里，从而减轻服务器压...
前言
今天忙完，上面派发了一个任务，有个项目的导出接口数据量太大了，导出直接内存溢出(OOM)，暂时做法是限制导出的行数，然后让我去研究一下，通过一下午的研究，通过EasyExcel解决了这个问题，并且大幅度提高了映射速度，如下图：
EasyExcel介绍
EasyExcel是一个基于Java的简单、省内存的读写Excel的开源项目,alibaba旗下的高性能处理Excel工具。在尽可能节约内存的情况下支持读写百M的Excel.
Java解析、生成Excel比较常用的框...
我的设备上每秒将2000条数据插入数据库，2个设备总共4000条，当在程序里面直接用insert语句插入时，两个设备同时插入大概总共能插入约2800条左右，数据丢失约1200条左右，测试了很多方法，整理出了两种效果比较明显的解决办法：方法一：使用Sql Server函数:1.将数据组合成字串，使用函数将数据插入内存表，后将内存表数据复制到要插入的表。2.组合成的字符换格式：111|222|333|456,7894,7458|0|1|2014-01-01 12:15:16;1111|2222|33...
Thinkphp中的Model操作有两个方法:add()和addAll<spanMicrosoft YaHei; font-size: 14px;">1 $User = M("User"); // 实例化User对象
2 $data[name] = ThinkPHP;
3 $data[email] = ThinkPHP@gmail.com;
4 $User->add($data);
5
6 $dataList[] = array(name=>thinkphp,email=>thinkphp@gamil.com);
7 $dataList[] = array(name=>onethink,email=>onethink@gamil.com);
8 $User->addAll($dataList);<spanMicrosoft YaHei; line-heigh...
