1 优化sql和索引2 增加缓存如：redis3 主从复制或主主复制，读写分离4 利用mysql自带分区表5 先做垂直拆分，将一个大系统分为多个小系统，也就是分布式6 水平切分，要选择一个合理的sharding key,为了有好的查询效率，表结构也要改动，做一定的冗余，应用也要改，sql中尽量带sharding key，将数据定位到限定的表上去查，而不是扫描全部的表 参考：https://www.cnblogs.com/nengka/p/mysqloptimization.html原文：https://www.cnblo...
前言 今天这篇博客是接我的上一篇博客 https://www.cnblogs.com/y-yp/p/12191258.html，继续介绍一下MMF在Linux上的用法 ps:本来本地调试完case，想放到服务器上跑跑看，结果竟然报"PlatformNotSupportedException"，然后仔细一查，竟然发现MMF在Windows和Linux上的用法不一样。。。"mapName"参数仅作为Window平台的一个特性，在Linux平台上只能传"null"，于是就有了今天这篇博客实现 既然“mapName”不能使用，经过测试...
转自：http://blog.csdn.net/zuiaituantuan/article/details/5900981 1.Bloom filter适用范围：可以用来实现数据字典，进行数据的判重，或者集合求交集基本原理及要点： 对于原理来说很简单，位数组+k个独立hash函数。将hash函数对应的值的位数组置1，查找时如果发现所有hash函数对应位都是1说明存在，很明显这个过程并不保证查找的结果是00%正确的。同时也不支持删除一个已经插入的关键字，因为该关键字对应的位会牵动到其他的...
mysql迁移之巨大数据量快速迁移方案-增量备份及恢复--chenjianwen一、前言： 当mysql库的大小达到几十个G或者上百G，迁移起来是一件非常费事的事情，业务中断，导出导入耗费大量的时间；所以，需要考虑怎么去节省时间的问题。二、方案： 1.制定维护时间，中断业务，登录 mysql，刷新日志 2.全备数据，备份后得到 binlog 日志文件 mysql-bin.000001 3.迁移走之前的 binlog 日志文件，只留下 mysql-bin.000001 4.恢复...
使用impala做大数据量查询distinct的时候报如下错误WARNINGS: Create file /tmp/impala-scratch/24414dab2c19caca:e54b206c5ab149d_24414dab2c19caca:e54b206c5ab149f_91001337-9d70-4c93-84ce-e7916c1ae804 failed with errno=2 description=Error(2): No such file or directory
Backend 4:Create file /tmp/impala-scratch/24414dab2c19caca:e54b206c5ab149d_24414dab2c19caca:e54b206c5ab149f_91001337-9d70-4c93-84ce-e7916c1...
Android优化 最常见的就是ListView, Gallery, GridView, ViewPager 的大数据优化 图片优化 访问网络的优化优化的原则：
数据延迟加载 分批加载 本地缓存数据优化
1).复用contentview
2).创建static class ViewHolder 3).分批加载
滑动监听 或者按钮 显示更多数据 往下拖动 显示 图片优化
1).异步加载
2).本地缓存（二级缓存 内存（软引用实现），sd卡）
...
sqlserver中sql语句分页，借助WITH和ROW_NUMBER()实现时大数据量一个优化方式。
比如原sql：
WITH NoPagedTable AS (
SELECT ROW_NUMBER() OVER (order by a_info_time desc) AS rowIndex, * FROM
View_a_info_list where a_info_state=1 )
select * from NoPagedTable WHERE rowIndex>=20 and rowIndex<=39
优化：将当前页的最大数用top限定，就是只取截止到当前页码下的最大数量，这样对于大数据量下越是靠近1的页码时速度越...
如何使用文件组解决大数据量的读写性能差问题，具体操作步骤如下： 在企业管理器中，右键点你的数据库，选属性，选数据文件，新增一个，文件填一下，位置填一下，文件组填一个，比如abc---确定。 然后你可以右键点你数据库里面的表，设计表，再点右键，属性，然后把表文件组和文本文件组改成abc，就把你原来的表从原来的大mdf文件中分解到你的新增文件中了。 再增加文件的话，方法同上，目的就是把主文件(MDF...
偶然的机会在网上看到了这篇blog，觉得作者写得挺不错的(虽然自己并没有怎么看懂。。。)，所以就转来跟大家分享分享吧~~~对于我们开发的网站，如果网站的访问量非常大的话，那么我们就需要考虑相关的并发访问问题了。而并发问题是绝大部分的程序员头疼的问题，但话又说回来了，既然逃避不掉，那我们就坦然面对吧~今天就让我们一起来研究一下常见的并发和同步吧。 为了更好的理解并发和同步，我们需要先明白两个重要的概念:同步和...
我的设备上每秒将2000条数据插入数据库，2个设备总共4000条，当在程序里面直接用insert语句插入时，两个设备同时插入大概总共能插入约2800条左右，数据丢失约1200条左右，测试了很多方法，整理出了两种效果比较明显的解决办法：方法一：使用Sql Server函数:1.将数据组合成字串，使用函数将数据插入内存表，后将内存表数据复制到要插入的表。2.组合成的字符换格式：‘111|222|333|456,7894,7458|0|1|2014-01-01 12:15:16;1111|2222|...
MySQL大数据量快速插入方法和语句优化是本文我们主要要介绍的内容，接下来我们就来一一介绍，希望能够让您有所收获！INSERT语句的速度插入一个记录需要的时间由下列因素组成，其中的数字表示大约比例：连接：（3）发送查询给服务器：（2）分析查询：（2）插入记录：（1x记录大小）插入索引：（1x索引）关闭：（1）这不考虑打开表的初始开销，每个并发运行的查询打开。表的大小以logN （B树）的速度减慢索引的插入。加快插入的一些方...
前些日子，公司要求做一个数据导入程序，要求将Excel数据，大批量的导入到数据库中，尽量少的访问数据库，高性能的对数据库进行存储。于是在网上进行查找，发现了一个比较好的解决方案，就是采用SqlBulkCopy来处理存储数据。SqlBulkCopy存储大批量的数据非常的高效，就像这个方法的名字一样，可以将内存中的数据表直接的一次性的存储到数据库中，而不需要一次一次的向数据库Insert数据。初次实验，百万级别的数据表，也只需几秒时间...
总体的实现思想为：每次查询出2w数据，并写入到临时文件然后把这些文件写入到一个EXCEL里边，或者把这些文件压缩为zip文件，然后把Zip文件提供给下载(这里使用zip打包是因为，在Linux上也能进行Zip打包)。//这个zip打包工具类
package net.szh.zip;
import java.io.File;
import org.apache.tools.ant.Project;
import org.apache.tools.ant.taskdefs.Zip;
import org.apache.tools.ant.types.FileSet;
public ...
http://www.360doc.com/content/14/0726/00/11962419_397102114.shtml LVS的全称Linux vitual system,是由目前阿里巴巴的著名工程师章文嵩博士开发的一款开源软件。LVS工作在一台server上提供Directory(负载均衡器)的功能，本身并不提供服务，只是把特定的请求转发给对应的realserver(真正提供服务的主机)，从而实现集群环境中的负载均衡。LVS的核心组件ipvs工作在kernel中，是真正的用于实现根据定义的集群转发规则把客户端的请求...
---方法1: 直接使用数据库提供的SQL语句---语句样式: MySQL中,可用如下方法: SELECT * FROM 表名称 LIMIT M,N---适应场景: 适用于数据量较少的情况(元组百/千级)---原因/缺点: 全表扫描,速度会很慢 且 有的数据库结果集返回不稳定(如某次返回1,2,3,另外的一次返回2,1,3). Limit限制的是从结果集的M位置处取出N条输出,其余抛弃.
---方法2: 建立主键或唯一索引, 利用索引(假设每页10条)---语句样式: MySQL中,可用如下方法: SELECT * ...
这个题目好像有点大，涉及的东西好像有点多！