用户组:游客
sqoop抽取oracle表数据到hdfs上,启动mapreduce job后,一直卡着,map %0 reduce %0,有两个多小时一直这样,有哪位大神知道 ...
Hadoop执行打包好的jar程序报错 执行的代码如下: $ hadoop jar logicTest.jar 异常代码如下: java.lang.IllegalArgumentEx ...
只有一个虚拟机,一个节点,6GB内存,8core,为什么只有6个maptask同时进行?想改变这个数值要怎么做?? 这个跟我的输入文件 ...
如图,一运行到这里就卡住了,日志也没提示no space或报异常,大家看看怎么回事。
最开始发现这个问题是执行Hive语句之后就挂在那里不动,后来发现原来是仅仅执行一个简单的MapReduce也会出现相同现象 我的集群 ...
输入是key(STEP0,1) value(4,angle) 输入底下还有STEP100和STEP200 想分区多文件输出 STEP0一个文件 STEP100一个 ...
mapreduce实现决策树算法(C4.5),比如下场景: 前面的属性有的连续的 有的是间断的,最后参保几率照理来说是连续的,是0-100% ...
比如今天:温度:25度 天气:晴 湿度:14 风:微风 是否适合打球:是 根据前面几个属性值(可能包含连续 ...
mapreduce 处理JSON时,文件输入格式是不是这个类 FileInputFormat.addInputPath(); map中参数写上自己定义的writable吗??
[root@cluster-template-001 .ssh]# hadoop namenode -format 16/05/27 12:04:23 INFO namenode.NameNode: STARTUP_MSG: /*** ...
reduce会超时的问题,有的任务可以,有些任务不行! 有谁碰到过吗?麻烦帮忙解答一下
求助:写mapreduce怎么知道 求助:用mapreduce处理数据 ,有些数据本身的原因会出异常,怎么知道是哪些数据出异常了
public class px { /** * @param args */ public static class SumMap extends Mapper{ private Text word; p ...
报错如下: 16/05/21 09:50:06 INFO client.ConfiguredRMFailoverProxyProvider: Failing over to rm2 16/05/21 09:50:06 INFO ...
使用mapreduce完成一个需求:查找到相邻的前后多条记录。例如有一个文件内容为: 1 2 3 4 5 6 7 8 9 x y z m l n o p s d ...
public class WC { /** * @param args */ public static class Map extends Mapper{ private IntWritable one=ne ...
各位好,我在eclipse中执行如下程序的时候报错。看起来是没有获取到文件输入相关的参数。麻烦大家帮忙看看是什么问题,谢谢! ...
我最近在做hive优化,包括合并小文件,reduce段数据倾斜,设置压缩,最后发现有几个作业map阶段运行时间很长,定位问题在数据在 ...
报错信息如下: Exception in thread "main" org.apache.hadoop.ipc.RemoteException(java.io.IOException): File /tmp/hadoop- ...
老师同学们,有个问题,想不通是关于hadoop数据分块和map处理的。 比如wordcount这个例子,我的输入文件是一个10G的文件,如果 ...
有大神搞过相关的课题吗?给小白我一些指点可以不?一点思路没有···
求帮忙mapreduce 仿真一下这篇论文,其中有些东西自己还是看不懂 http://www.doc88.com/p-7169546679028.html
写了个简单的mapreduce算法,在伪分布式中执行没问题,搭建了hadoop2.6+zookeeper3.4.5 HA环境,修改了程序的input和output路径 ...
刚开始学习Hadoop,有没有人之前做过逻辑回归算法,能不能分享一下源码
如何将一个M行样本数据的输入文件划分成任意大小的L块,每块包含任意K条数据样本
各位大牛,我写了一个mapreduce程序,在map中,需要用到别人的接口,这个接口可能抛异常,我在调用接口的地方,做了try catch, ...
现在集群里有100个大文件,每个文件单独MapReduce没有问题,但是将100个文件整体运行就出现: java.lang.NumberFo ...
第一个数是key 第二个和第三个数是value 如何做到value中的第一个数按第二个数的大小排序? 比如key为1时 输出为 1 (2, ...
运行MR的时候 map运行到100%, reduce 67%卡主之后不再运行,查看运行的过程发现,出现了maptask: finished spill 7,这该如何解 ...
代码写完打包,到集群中用hadoop jar命令提交运行后,装有GPU的节点会运行jcuda代码,但是在该节点上创建contianer会因为虚拟内 ...
本版积分规则 发表帖子
查看 »