用户组:游客
问题导读 1.Hadoop3.3支持JDK哪个版本? 2.SCM是什么? 3.YARN应用程序做了哪些改进? 4.整合腾讯云实现了什么文件系统? ...
http://pan.baidu.com/s/1kToXSl5 **** 本内容被作者隐藏 ****
**** 本内容被作者隐藏 ****
弱弱请教一下各位大神。。。这是什么情况。 运行spark官网上的一个streaming 程序 用spark-submit提交上去就卡死在那, ...
有两个集群,一个部署在阿里云,一个部署在三台虚拟机上: 在虚拟机上的:spark-sbumit提交和idea直接提交到集群都可以正常运行 ...
./spark-shell --master spark://Master:7077 --executor-memory 1024m --driver-memory 1024m 执行结果出错: 17/03/02 12: ...
我用spark1.5.2配置ha,用的是zookeeper3.4.8的版本,安装官网的文档配置如下: export SPARK_DAEMON_JAVA_OPTS="-Dspark.deplo ...
从网上找了几篇说法一一试了都没有用,不知道是不是帖子比较久远的原因 我的hive是2.1.1,spark是2.1.0,hadoop是2.7.3 求详细 ...
/** * Created by Administrator on 2016/9/24 0024. */ package com.keduo import java.util.Properties import o ...
val conf = HBaseConfiguration.create();val tableName = "data1" val table = new HTable(conf,tableName) conf.set(TableOu ...
各位大神,新问题来了。。 Caused by: java.lang.ClassCastException: cannot assign instance of scala.collection.immuta ...
如题,在网上看到了一个scala版本的例子,但是scala没接触过,看起来很吃力,希望各位大大能给个Java版的例子,不 ...
场景: 每天跑一部分分析数据,计算一项业务的人数。 但是最终查询的时候,是多天一起查的,这个时候就涉及对人数的去重。 ...
[mw_shl_code=java,true]val spark = SparkSession.builder().appName(this.getClass.getSimpleName) .master(master). ...
SSH 可以互相无密码登陆,ping也能ping通。但是worker就是连不上master vanxd@master:~/i/Spark/spark-1.3.1-bin-hadoop2.6/s ...
[hadoop@hadoop001 bin]$ ./spark-shell Welcome to ____ __ / __/__ ___ _____/ /__ _\ \/ ...
一直没有发过帖子,写的不好大家将就着看,希望有人能用上; 问题描述: 公司最近一个数据清洗项目,用spark sql从一个 ...
问题1:执行过程中出现的错误如何解决? 问题2:如何输出我在lines.flatMap(new FlatMapFunction() 方法中的相关日志?(我想拿 ...
val jdbcDF = spark.read.format("jdbc").option("url","jdbc:sqlserver://192.168.1.21;username=sa;password=yishidb;database ...
1、 新装完spark后,运行bin/spark-shell时出现错误“Call From master151/192.168.203.151 to master151:8021 failed on connec ...
Error:scalac: bad symbolic reference. A signature in SparkContext.class refers to term hadoop in package org.apache whi ...
在网上看到有以下两种方式来运行打包的程序: 注意需要将依赖的HBase jar包添加到Spark的CLASSPATH下,打开conf/spark-env.sh, ...
我在网上看到一个spark读取hbase的例子(地址http://blog.csdn.net/fighting_one_piece/article/details/38437647),然后想自己 ...
进到/spark/bin目录后,运行:./run-example org.apache.spark.examples.SparkPi 打开网页:http://192.168.56.11:8080/ ...
源数据:(“人名”,年龄) val rdd = sc.parallelize(Array[(String,Int)](("Michael",29),("Andy",30),("Justin",19), ("Tom" ...
通过Spark Streaming获取不到HDFS上面的数据, val conf = new SparkConf().setMaster("local").setAppName("RDDTest"); v ...
我在使用spark-sql 的 时候,有个问题一直困扰我.spark-sql 为什么不能像hive一样,自定义永久函数.而是需要每次都加载本地的udf j ...
spark-shell yarn-client模式启动总是出现异常。 运行环境如下: spark1.3 hadoop2.6 HA jdk1.8.0_31 spark-env.sh ...
偶是一个spark的新人,现在一个需求需要启动spark streaming for flume-ng,用yarn管理,启动脚本是 spark-submit \ --class ...
Spark1.3,运行SparkStreaming的时候提示错误,运行Spark-SQL正常 运行环境:Spark1.3+Hadoop2.6.0+JDK1.8 运行官方的Stre ...
2017-07-31 16:28:08,364 INFO org.apache.spark.executor.CoarseGrainedExecutorBackend: Got assigned task 5 2017-07-31 16: ...
本版积分规则 发表帖子
查看 »