Windows下在eclipse中使用和操作hadoop开发,连接hadoop集群,调用API
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了Windows下在eclipse中使用和操作hadoop开发,连接hadoop集群,调用API,小编现在分享给大家,供广大互联网技能从业者学习和参考。文章包含1443字,纯文字阅读大概需要3分钟。
内容图文
一、前言
本案例在虚拟机下安装好linux的hadoop-2.6.5集群完全分布式(HA的),并配置好运行。Windows下安装了201803版的Eclipse、java-1.8
二、Windows下Eclipse配置hadoop插件
解压在虚拟机linux下安装的hadoop-2.6.5.tar.gz文件在D:\usr\hadoop-2.6.5\hadoop-2.6.5
1、下载eclipse插件:hadoop-eclipse-plugin-2.6.0.jar
在网上找资源,很多,感觉是随便一个版本都行,还是我运气好,下其中一个就能用,很多帖子这里也没说清楚。
2、把下载的jar包拷贝到eclipse安装目录下的plugins目录下,重新启动eclipse该插件会生效。判断插件生效的方法如图:
在Eclipse软件下Windows>>Perfrences下看到有Hadoop Map/Reduce
3、配置eclipse的hadoop开发模式
点击Windows>>Perfrences>>Hadoop Map/Reduce选择解压过的hadoop目录,如图选择解压的目录
选择eclipse软件下Windows>> Perspective>>Open Perspective>>Other>>Map/Reduce,如图
选择eclipse软件下Windows>>Show View>>Other>>Map/Reduce Location,就不放图了,这图上传太麻烦了!!!!
4、添加这3个文件winutils.exe,libwinutils.lib,hadoop.dll
(1)在https://github.com/SweetInk/hadoop-common-2.7.1-bin中下载winutils.exe,libwinutils.lib 拷贝到D:\usr\hadoop-2.6.5\hadoop-2.6.5\bin目录
(2)在https://github.com/SweetInk/hadoop-common-2.7.1-bin中下载hadoop.dll,并拷贝到c:\windows\system32目录中,这里要重启电脑才生效!可以配置完后面再重启,现在重启更好了!!!
5、配置Windows下hadoop的环境变量
三、添加Map/Reduce Location用户端
1、新建一个Hadoop Location
至此,算是配置连接成功了!
测试:
如果看见网页上显示,即打通了Windows下eclipse与虚拟机linux下的hadoop!
内容总结
以上是互联网集市为您收集整理的Windows下在eclipse中使用和操作hadoop开发,连接hadoop集群,调用API全部内容,希望文章能够帮你解决Windows下在eclipse中使用和操作hadoop开发,连接hadoop集群,调用API所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错,欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 gblab@vip.qq.com 举报,一经查实,本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。