分享

调试MapReduce代码的时候,都要去查一遍map的输出结果对不对

bioger_hit 发表于 2014-11-1 23:57:18 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 0 9241
本帖最后由 bioger_hit 于 2014-11-2 00:00 编辑
此问题来自qq群,看到很多人不会,在此整理一下。

问题:
我每次调试MapReduce代码的时候,都要去查一遍map的输出结果对不对,又要去看下reduce的输入输出结果对不对。大家平常是怎样排查MapReduce输出的结果不正确的问题呢,传授下技巧吧


回答:
mapreduce调试:
调试的方法有多种,这里说一种最简单、原始的一种。
记得Javascript刚开始之初是不能调试的,于是我们就采用alert的方法,看看结果是不是我们想要的,这里我们调试mapreduce采用的是类似的方法。我们通过Counter countPrint1 = context.getCounter("Map中循环strScore", “输出信息”);来输出调试信息,getCounter可以把程序里面的变量输出到Java控制台,这样就达到了调试效果。
详细参考:
Hadoop中调试(mapreduce)map与redcue信息的输出办法

当然还有其他调试方法,可以参考下面
Win7 Eclipse调试Centos Hadoop2.2-Mapreduce出现问题解决方案
调试Hadoop源代码:eclipse调试及日志打印



来自:

零基础学习hadoop到上手工作线路指导(编程篇)
欢迎加入about云群425860289432264021 ,云计算爱好者群,关注about云腾讯认证空间

没找到任何评论,期待你打破沉寂

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条