准备工作
先在win系统的hosts文件里添加以下内容
10.61.6.164master //hadoop集群的master节点
一、首先在eclipse上安装hadoop插件
下载hadoop-eclipse-plugin-1.1.2.jar,将其拷贝到eclipse 安装目录下的plugins,再启动eclispe,这时在eclipse的File/New/other下会看到一下的内容,证明插件安装成功
二、在Window/show view/other里打开Map/Reduce Locations
打开后会有下图所示的窗口,点击右侧的紫色小象
会弹出下图所示的...
在我们hadoop编程中,经常遇到像看看hadoop的某个类中函数的功能。但是我们会遇到一种情况就是Source not found。遇到这个问题,该如何解决。因为我们已经引入了包,为什么会找不到。如果不了解怎么引入的可以参考:hadoop开发方式总结及操作指导http://www.aboutyun.com/thread-6950-1-1.html看到上面现象,是因为我们每天添加.zip。该如何添加zip包。那么我们从哪去找zip包。(1)解压hadoop-2.7.3-src.tar.gz得到文件夹hadoop-2...
一、解压hadoop src包到workspace目录二、File->Import->Existing Maven Projects,在Root Directory处选择解压好的目录,Finish三、等待maven把依赖包下载好后,会出现一些问题,下面是重头戏。四、maven问题解决(1)若发现maven依赖包找不见,找到位置后删除jar包目录,然后右击工程,Alt+F5,确认后会自动下载。不要手动下载第三方包,可能不识别(2)报 maven-resources-plugin prior to 2.4 is not supported by m2e,Windio...
问题导读:1.官网src包下载包,能否直接使用?2.如何跟踪和查看hadoop源码?此篇是从零教你如何获取hadoop2.4源码并使用eclipse关联hadoop2.4源码基础上的一个继续,上文其实已经把源代码下载下来了。下载之后,我们如何查看源码代码。我们还是通过eclipse的导入功能,这里简略描述一下,详细可以查看零基础教你如何导入Java项目到eclipse中。1.导入查看hadoop源码(1)选择Existing Projects into Workspace<ignore_js_op> (2)选...
(一),安装eclipse 1,下载eclipse,点这里 2,将文件上传到Centos7,可以用WinSCP 3,解压并安装eclipse [root@Master opt]# tar zxvf ‘/home/s/eclipse-jee-neon-1a-linux-gtk-x86_64.tar.gz‘ -C/opt ---------------> 建立文件:[root@Master opt]# mkdir /usr/bin/eclipse ------------------》添加链接,即快捷方式:[root@Master opt]# ln -s /opt/eclipse/eclipse /usr/bin/eclipse ...
安装jdk 步骤1: 从oracle的网站上下载jdk,我下的是jdk-6u45-linux-x64.bin,下载完后放到/usr/lib/jvm目录下 $chmod +x /usr/lib/jvm/jdk-6u45-linux-x64.bin $sudo /usr/lib/jvm/jdk-6u45-linux-x64.bin 之后会出现安装信息 步骤2:配置jdk,修改/etc/profile文件,在最后添加下面的内容:export JAVA_HOME=/usr/lib/jvm/jdk1.6.0_45
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOM...
来自:http://heipark.iteye.com/blog/1171923 通过 "conf.set("tmpjars", jars);" 可以设置第三方jar,之前一直只是添加一个jar,运行OK,今天打算添加多个jar的时候发现mapreduce在运行时找不到 class(ClassNotFoundException),跟踪代码发现jar文件的确上传到了HDFS中,所以甚是无解,后来上传jar到 hdfs,然后使用DistributedCache.addFileToClassPath()方法也不行。郁闷半天,后来看到job.xml中有一段 奇怪的设置,mapred.j...
操作系统:ubuntuhadoop版本:1.0.1eclipse版本:eclipse Helios-SR2直接通过hadoop 1.0.1掩码插件生成的eclipse插件是不能用的,因为少了一些jar包,所以需要手工修改src/contrib/eclipse-plugin目录下的build.xml文件和META-INF/MANIFEST.MF文件。修改build.xml文件这是没修改前的<target name="jar" depends="compile" unless="skip.contrib">
<mkdir dir="${build.dir}/lib"/>
<copy file="${hadoop.root}/build/hadoop-...
1、需把hadoop.dll 和 winutils.exe 放到hadoop的bin目录下,我的是:E:\Hadoop\hadoop-2.4.0\bin2、且需要配置HADOOP_HOME 和 PATH 路径。我的如下: HADOOP_HOME——E:\Hadoop\hadoop-2.4.0 PATH——.;%HADOOP_HOME%\bin;以上两个注意项可以解决运行wordcount报空指针异常的错误。3、需在工程src目录下新建一个log4j.properties文件,不然会有log4j警告提示,如下:log4j:WARN No appenders could be found for logg...
欢迎转载,且请注明出处,在文章页面明显位置给出原文连接。本文链接:首先给出eclipse插件的下载地址:http://download.csdn.net/download/zdfjf/94212441.插件的安装插件下载后,放在eclipse安装目录下的plugins文件夹下,然后重启eclipse,就会发现Project Explorer窗口里多出DFS Locations这一项,对应的是HDFS里存放的文件,现在里边还没有显示目录结构,不用着急,第二步配置之后,目录结构就会出现了。 我突然想起来博客园上...
一、Hadoop2.4.0环境下Eclipse平台的搭建1.安装Eclipse 对于hadoop集群,我们将eclipse安装在master节点上,首先下载Eclipse安装包(如:eclipse-jee-luna-SR1-linux-gtk.tar.gz)然后用tar -zxvf 命令解压,并把解压后的目录移动到/usr/local路径下,然后启动eclipse:下载网址:http://www.eclipse.org/downloads/?osType=linux&release=undefined 2.在eclipse上安装hadoop插件 由于我们使用的是hadoop2.x版本的,所以插件...
1、 当我们编写好MapReduce程序,点击Run on Hadoop的时候,Eclipse控制台输出如下内容: 这个信息告诉我们没有找到log4j.properties文件。如果没有这个文件,程序运行出错的时候,就没有打印日志,因此我们会很难调试。 解决方法:复制$HADOOP_HOME/etc/hadoop/目录下的log4j.properties文件到MapReduce项目 src文件夹下。 2、当执行MapReduce程序的时候,Eclipse可能会报告堆益处的错误。 此时,MapReduce程序执行的out目录已...
[一]、环境参数
eclipse-java-kepler-SR2-linux-gtk-x86_64.tar.gz //现在改为eclipse-jee-kepler-SR2-linux-gtk-x86_64.tar.gzHadoop1.0.3Java 1.8.0Ubuntu 12.04 64bit[二]、安装配置1、复制生成的 hadoop-eclipse-plugin-1.0.3.jar 到 eclipse/plugins 路径下,重启eclipse即可。2、在eclipse菜单依次点击 windows → show view → other… ,选择“Show View”对话框打开,搜索框输入“map”,会找到项“Map/Reduce Locations...
Hadoop Eclipse 开发工具 主要分为1、根据Hadoop版本生成插件 2、安装Hadoop Eclipse插件 3、配置Hadoop目录 4、配置Hadoop连接 5、新一个MapReduce工程 WordCount.javaMapReduce——WordCount问题总结参考:http://blog.sina.com.cn/s/blog_7fcb1aef0100zpux.html正成功输入出后信息:14/05/21 23:06:47 INFO
input.FileInputFormat: Total input paths to process : 214/05/21
23:06:47 WARN util.NativeCodeLoader: Unable to ...
a. 在hadoop解压目录下,找到src\contrib\eclipse-plugin\build.xml,增加如下几行:<filesetdir="${hadoop.root}"> <includename="hadoop*.jar"/></fileset> b. 在build.xml增加如下:<property name="version"value="1.2.1"/> c. 在build.xml,修改如下:<copy file="${hadoop.root}/hadoop-core-${version}.jar"tofile="${build.dir}/lib/hadoop-core.jar"ve...