分享

hadoop中的wordcount能否提取目录中的子目录文件数据

bioger_hit 发表于 2014-5-28 17:50:38 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 3 6543
弱弱的问个问题,hadoop中的wordcount示例,只能统计一个目录下的所有文件的内容,但是如果目录中还有目录,怎么办呢?
我实验了一下,不能计算目录中层级目录中的文件?
欢迎加入about云群425860289432264021 ,云计算爱好者群,关注about云腾讯认证空间

已有(3)人评论

跳转到指定楼层
hyj 发表于 2014-5-28 17:53:04
子目录只能用FileInputFormat.addInputPath了

回复

使用道具 举报

bioger_hit 发表于 2014-5-28 17:53:52
子目录只能用FileInputFormat.addInputPath了
目录里面有100多个子目录呢,怎么办
回复

使用道具 举报

nettman 发表于 2014-5-28 17:55:54
  1. FileStatus[] fileStatus = fs.listStatus(path);        
  2. for(int i=0;i<fileStatus.length;i++){
  3.             if(fileStatus[i].isDir()){
  4.                 Path p = new Path(fileStatus[i].getPath().toString());
  5.                 getFile(p,fs);
  6.             }else{
  7.                 System.out.println(fileStatus[i].getPath().toString());
  8.             }
复制代码
你可以便利目录,然后采用addinputpath。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条