hadoop工具包+hadoop-eclipse-plugin-2.8.0.jar 附安装使用方法

Eclipse的Hadoop插件在开发hadoop应用程序中可以提供一些很方便的操作,可以直接Eclipse中浏览HDFS上的文件,可以直接新建选择MapReduce项目,项目自动包含所有需要的hadoop jar包,不必再手动拷贝。

包含hadoop工具包及eclipse插件
hadoopbin.zip为工具包,解压官方haddop包之后把hadoopbin解压的丢到haddop目录下;
hadoop-eclipse-plugin-2.7.2为hadoop的eclipse插件,将文档拷贝到eclipse\\plugins目录下,重启eclipse,在window/preferences 下可见 Hadoop Map/Reduce选项,接着配置远程或本地hadoop路径;
hadoop2.8.0 下测试,可以显示Map/Reduce project,但是在DFS Locations下总提示Error:No FileSystem For Scheme:hdfs

说明:

1) 打开命令行,进入hadoop插件解压后src/contrib/eclipse-plugin目录中;

2) 执行编译命令:ant jar -Dversion=2.7.2 -Declipse.home=D:\\desktop\\eclipse -Dhadoop.home=D:\\desktop\\hadoop-2.7.2;

 其中Declipse.home为ecipse根目录,Dhadoop.home为hadoop根目录。

3) 等待编译成功,出现如下“BUILD SUCCESSFUL”提示文字,说明编译成功;

编译成功的jar包位于:build/contrib/eclipse-plugin/hadoop-eclipse-plugin-2.7.2.jar

添加jar文件

1、将编译后的 build/contrib/eclipse-plugin/hadoop-eclipse-plugin-2.7.2.jar 拷贝到 eclipse/plugins 目录中,重启eclipse;

2、在eclipse菜单中选择 windows → show view → other ,在弹出的对话框中选择“Map/Reduce Locations”,点击确定;

3、在控制台的“Map/Reduce Locations”页签空白处点击右键,选择“New Hadoop location”,填写参数,如下所示:

 

hadoop-eclipse-plugin-2.8.0.jar

其中Map/Reduce Master的端口地址该怎么填写,网上大都资料为hadoop1.x的mapred.job.tracker的端口号,但在hadoop2.x中已使用yarn来代替jobtracker,猜测这里填写mapreduce.jobtracker.http.address的端口值50030,也有资料说填写dfs.datanode.ipc.address端口值50020,具体填写何值有待进一步确认。

3、打开 Windows → Hadoop Map/Reduce ,右侧选择hadoop2.6所在路径:D:\\desktop\\hadoop-2.7.2;

4、打开 Windows → show view → other ,选择“Project Explorer”,可以在 DFS Locations 中看到HDFS的目录结构;

hadoop-eclipse-plugin-2.8.0.jar

5、新建MapReduce项目,打开 New → Project ,选择“Map/Reduce Project”,输入项目名即可,项目创建后会自动导入hadoop下所需的jar包。

1. 本站所有文章及资源来源于用户上传和网络,如有侵权请联系站长处理!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律,否则后果自负!
4. 如有链接无法下载、失效或广告,请联系管理员处理!
5. 本站资源售价只是赞助,收取费用仅维持本站的日常运营所需!

中国站长社区 » hadoop工具包+hadoop-eclipse-plugin-2.8.0.jar 附安装使用方法

发表评论