原文：http://karo-lee.iteye.com/blog/2209045
1.Hadoop的发展历史起源介绍 a.Hadoop最早起源于Nutch、Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询的功能，但随着抓取网页数量的增加，遇到了严重的可扩展的问题——如何解决数10亿网页的存储和索引问题。 b.2003、2004年谷歌发表的两篇论文为该问题提供了可行的解决方案。 ——分布式文件系统（GFS），可用于处理海量网页的存储 ——分布式计算框架（MapReduce），可用于处...
编写可扩展、分布式的数据密集型程序和基础知识理解Hadoop和MapReduce编写和运行一个基本的MapReduce程序1、什么是HadoopHadoop是一个开源的框架，可编写和运行分布式应用处理大规模数据。Hadoop与众不同之处在于以下几点：方便——Hadoop运行在由一般商用机器构成的大型集群上，或者云计算服务之上；健壮——Hadoop致力于在一般商用硬件上运行，其架构假设硬件会频繁地出现失效；可扩展——Hadoop通过增加集群节点，可以线性地扩展...
系统在现网运行中，很多错误日志没能及时的分析，导致系统的问题总是用户发现，然后告诉我们来解决，而不是我们主动的去积极解决系统中的问题，因此想通过业余时间做一个日志分析系统，主要是把应用层和消息传输模块抛出的日志做分析，方便定位问题。在多核C 系统在现网运行中，很多错误日志没能及时的分析，导致系统的问题总是用户发现，然后告诉我们来解决，而不是我们主动的去积极解决系统中的问题，因此想通过业余时间做一...
引用 一、什么是Hadoop Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 用户可以在不了解分布式底层细节的情况下，开发分布式程序。充分利用集群的威力进行高速运算和存储。 Hadoop实现了一个分布式文件系统（Hadoop Distributed File System），简称HDFS。HDFS有高容错性的特点，并且设计用来部署在低廉的（low-cost）硬件上；而且它提供高吞吐量（high throughput）来访问应用程序的数据，适合那些有着超大数据集（la...