腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
3
回答
尝试运行
Spark
时出错
、
、
我是
spark
的新手。我已经下载了为hadoop版本2.6预建的
spark
版本1.3.1。我解压并导航到该文件夹,然后键入以下命令:./bin/
spark
-shell,对于该命令,我得到一个错误,指出没有找到
spark
-shell命令。我
使用
git bash在windows上做了同样的事情,我得到了一个错误消息:在尝试运行
spark
之前,我还需要做什么吗?
浏览 1
提问于2015-05-09
得票数 4
回答已采纳
1
回答
spark
.driver.extraClassPath多个Jars
、
、
我正在尝试
使用
Spark
via Python在同一会话中访问(通过JDBC) PostGres数据库和MSSQL数据库。在
spark
-defaults.conf文件中,我可以让其中一个运行,但不能同时运行。这两个功能是独立工作的:
spa
浏览 2
提问于2016-04-01
得票数 10
回答已采纳
1
回答
从dockerfile生成Azure机器学习环境(tensorflow)失败
、
、
、
、
/horovod/
spark
copyinghorovod/
spark
/__init__.py -> build/lib.
linux
-x86_64-3.7/horovod/
spark
浏览 32
提问于2021-10-12
得票数 1
1
回答
如何在
Spark
程序中将Hive用户设置为与
Spark
用户不同的用户?
、
、
、
、
我对
Linux
、Hive和
Spark
之间的用户帐户有一个非常有趣、棘手的问题……/usr/lib/hive/bin/beeline -u jdbc<hiveuserid> 这里不能
使用</e
浏览 8
提问于2015-06-09
得票数 1
2
回答
有没有
使用
API提交
spark
作业的方法
、
、
、
、
我可以
使用
控制台在
linux
服务器上提交
spark
作业。但是在
linux
服务器上有没有什么API或者框架可以用来提交
spark
作业呢?
浏览 0
提问于2017-01-04
得票数 0
2
回答
Spark
执行错误:
spark
-提交
我正在尝试
使用
下面的命令从
spark
-shell执行一个程序
spark
-submit --class com.aadharpoc.
spark
.UIDStats \ --packages com.databricks:
spark
-csv_2.10:1.5.0 \ --master yarn-client \ /home/cloudera/Desktop/aadhar_jar/Untitled.jar \ /home
spark
-s
浏览 43
提问于2017-07-14
得票数 1
回答已采纳
3
回答
火花:如何将员工专用的
SPARK
_HOME设置为独立模式
、
但是,当我尝试用start-all.sh启动集群时,遇到了一个问题:即,
Spark
安装在不同工作人员的不同目录中。但是,尽管每个工作人员的路径不同,但主服务器
使用
主服务器对$
SPARK
_HOME的定义对每个工作人员调用$
SPARK
_HOME。编辑#1 Hmm,找到了,强烈建议这是当前的实现--假设所有员工的$
SPARK
_HOME都是相同的。
浏览 0
提问于2014-06-24
得票数 2
3
回答
如何
使用
start-all.sh启动
使用
不同
SPARK
_HOME (而不是主)的独立工作人员?
、
我在2台机器上安装了
spark
2.1.1,但是在不同的相对位置上,(在一台机器上),我已经安装在NTFS驱动器的某个地方,而在另一台机器上,我已经在ext4驱动器上安装了它。当我试图通过主节点上的start-all.sh脚本启动这个集群时,我会得到以下错误:我已经在各自的
SPARK
_HOME文
浏览 0
提问于2017-05-20
得票数 1
回答已采纳
1
回答
如何
使用
Java API将文本文件、图像存储到Apache
Spark
中?
、
、
、
、
我是Apache
Spark
的新手。我
使用
的是Windows操作系统,而
spark
安装在
Linux
操作系统上,它是远程的。是否可以
使用
Java API在
Spark
配置中添加ip地址和端口?请分享
spark
java示例。 提前谢谢。
浏览 1
提问于2017-02-07
得票数 0
1
回答
Eclipse中的PySpark :
使用
PyDev
、
、
、
、
我正在命令行中运行本地pyspark代码,它可以工作:可以
使用
/
浏览 2
提问于2015-10-25
得票数 1
回答已采纳
1
回答
从windows上的星星之火到HDFS存储文件
、
、
、
我已经在本地windows机器上的
linux
中安装了Hadoop/YARN。在同一台windows机器(不在VM中)上,我已经安装了
Spark
。在windows上运行
spark
时,我可以读取HDFS中存储的文件(在
linux
中)。我想,这是因为Windows和
linux
用户是不同的,windows用户没有在
Linux
中编写文件的权限。
使用
spark
将文件从windows存储到HDFS (
linux
)的正确方法是什么?
浏览 1
提问于2018-09-16
得票数 0
回答已采纳
1
回答
从windows与
linux
的
Spark
提交
、
我已经在
linux
和windows机器上测试了示例SparkPi,发现
linux
spark
-submit运行正常,并且给出了正确的结果(剧透: Pi大约是3.1402157010785055)我注意到当从
linux
运行
spark
-submit时,类路径是这样的: -cp '
浏览 0
提问于2018-04-09
得票数 0
2
回答
java.lang.ClassNotFoundException: org.apache.hadoop.hbase.HBaseConfiguration
、
、
、
、
我想
使用
scala示例创建我的第一个scala程序,该示例在Sparkd 1.4.1中提供。目标是连接到HBase并完成一些基本工作,例如计数行或扫描行。然而,当我试图执行程序时,我得到了一个错误。/src/main/scala/com/orange/
spark
/examples/HBaseTest2.scala // e.g: set i
浏览 3
提问于2015-08-18
得票数 2
1
回答
SparkContext初始化错误: Scala
、
我
使用
以下运行命令运行
spark
:但是我得到了以下初始化错误: Using
Spark
's default log4j profile: org/apache/
spark
16
浏览 1
提问于2016-10-01
得票数 0
1
回答
高寒
linux
坞上的apache火花启动错误
、
、
我是
spark
.Requesting的新手,来自我们信任的社区成员。
spark
/logs/
spark
--org.apache.
spark
.deploy.master.Master-1-e6b8f9219a40.out failed to launch: nice -n0 /opt/
spark
/bin/
spark
-class org.apache.
spark
.deploy.master.Master --host
浏览 2
提问于2017-06-15
得票数 5
回答已采纳
1
回答
SPARK
作为
linux
集群中的资源管理器-内部Kubernetes和外部Kubernetes
、
、
、
、
如果我
使用
Kubernetes集群来运行星星之火,那么我将
使用
星火中的Kubernetes资源管理器。 如果我
使用
Hadoop集群运行
spark
,那么我将
使用
Spark
中的Yarn资源管理器。但我的问题是,如果我在kebernetes中生成多个
linux
节点,并
使用
其中一个节点作为星星之火,
使用
另外三个节点作为工作人员,那么我应该
使用
哪个资源管理器呢?我能用那边的纱线吗?第二个问题,对于任何一个4节点的
lin
浏览 5
提问于2021-02-14
得票数 0
回答已采纳
1
回答
如何通过
Linux
使用
Databricks Cluster运行
spark
sql查询?
、
、
、
我想从Databricks Cluster上的
Linux
Machine执行
spark
sql命令。有什么方法可以做到这一点吗?我在一个.sql文件中设置了一组
spark
sql命令,并希望
使用
Linux
Machine中的Databricks集群来执行该文件。我正在寻找类似于SQLPLUS的东西,在那里我们与DB建立连接并执行sql,以类似的方式,我们是否有任何实用程序/解决方案来在Databricks集群上执行
spark
sql。
浏览 30
提问于2021-08-10
得票数 1
1
回答
PySpark安装错误
、
、
、
、
然而,当我尝试
使用
终端机或jupyter笔记本的火花放电时,我总是会收到以下错误。 openjdk version "1.8.0_151" khurram@
linux
-0he7:~> scala -versionHadoop3.0/opt/hadoopkhurram@<em
浏览 0
提问于2018-01-20
得票数 2
回答已采纳
1
回答
为文本找到多个源
、
、
、
使用
spark
-submit运行时的错误消息如下所示: at org.apache.
spark
.deploy.SparkSubmit.org$apache$
spark
$deploy$SparkSubmit在以
spark
-submit的形式运行时,this.source()似乎是te
浏览 14
提问于2021-03-16
得票数 1
回答已采纳
4
回答
在eclipse上本地运行
spark
代码,并将
spark
安装在远程服务器上
、
、
、
现在我的
spark
+hadoop已经安装在
linux
服务器上了。如何将我的
spark
代码从eclipse启动到
spark
集群(在
linux
上)? 任何建议。
浏览 4
提问于2015-11-08
得票数 2
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
spark streaming的使用心得
Spark 核心编程RDD的使用(1)
如何使用Cloudera Manager升级Spark2.1版本至Spark2.2
使用 Apache Spark 构建商品推荐引擎
使用Spark Streaming处理Kafka数据流
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券