搜索
搜 索
本版
文章
帖子
用户
图文精华
hadoop-2.6.0+zookeeper-3.4.6+hbase-1.0.0+hive-1.1.0完全分布 ...
首页
Portal
专题
BBS
面试
办公|编程助手
更多
登录
注册
用户组:游客
主题
帖子
云币
我的帖子
我的收藏
我的好友
我的勋章
设置
退出
导读
淘贴
博客
群组
社区VIP
APP下载
今日排行
本周排行
本周热帖
本月排行
本月热帖
会员排行
About云-梭伦科技
»
专题
›
交流区
›
技术交流
›
mapreduce 在elipse 下运行 reduce个数的设置问题
0
1
0
分享
mapreduce 在elipse 下运行 reduce个数的设置问题
jixianqiuxue
发表于 2013-10-16 13:39:01
[显示全部楼层]
阅读模式
关闭右栏
1
6862
我在exlipse写了一个MR的程序,设置reduce的个数是3,setNumReduceTasks(3),但是在elipse执行完成之后再output目录下只生成了一个文件,也就是说在运行的时候只是有一个reduce在运行。我再写了一个partitoner的类,
在getParttion()中后台打印出numPartition的值(这个值总会等于reduce的个数),打印出来的结果总是1,无论我setNumReduceTasks为多少。我的开发环境是是伪分布,都共用一个节点。 但是奇怪,当我从exlipse吧这个MR导出成jar包,然后用 # hadoop jar tour.TourDriver 运行,在output目录下生成3个文件了。 有谁知道为什么exlipse下只能运行一个reduce吗?
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
显身卡
已有(1)人评论
电梯直达
正序浏览
s060403072
发表于 2013-10-16 13:39:36
eclipse下开发时,不但程序里要设置,还要重新设置MR配置
回复
使用道具
举报
显身卡
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
发表新帖
jixianqiuxue
高级会员
关注
32
主题
342
帖子
8
粉丝
TA的主题
决战大数据
2018-8-19
机器学习:实用案例解析(推荐)
2017-5-17
key-value数据库
2015-12-7
oozie使用手册
2015-12-7
Hadoop.Operations【about云提供297页】
2015-11-22
24小时热文
Docker+容器与容器云(第2版)
docker容器实战:原理、架构与应用
Docker基础与实战
kafka面试题精选
Nebula Flink Connector 在实时 ETL 的实践
关闭
推荐
/2
中文版ChatGPT
1.无需魔法 2.提高编程效率 3.提高文档能力
查看 »
新手帮助
新手帮助:注册遇到问题,领取资源,加入铁粉群,不会使用搜索,如何获取积分等
查看 »
意见
反馈