腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
0
回答
使用
saveAsNewAPIHadoopDataSet
从
Spark
存储
到
HBase
时
设置
NameSpace
、
、
我正在尝试
使用
saveHadoopDataSet API将
Spark
中的数据保存到
HBase
中。请参考下面的代码。代码工作正常表
存储
在默认的
namespace
.How中我可以在下面的代码中
设置
名称空间吗,这样表就可以
存储
在所需的名称空间中,而不是默认的名称空间中。", "localhost:2181") conf.set("
hbase
.master", "localhost:60000&quo
浏览 10
提问于2016-12-19
得票数 0
回答已采纳
1
回答
shc-核心: NoSuchMethodError org.apache.hadoop.
hbase
.client.Put.addColumn
、
、
我尝试
使用
shc保存火花数据
到
hbase
通过火花.我的版本: |"table
浏览 1
提问于2018-09-09
得票数 0
回答已采纳
1
回答
使用
Pyspark将数据
存储
到
Accumulo中
、
、
、
我正在尝试
使用
Pyspark (Python +
Spark
)将数据
存储
到
Accumulo中。现在,我正在
使用
pyaccumulo库,通过
使用
pyFiles参数将pyaccumulo蛋文件传递给SparkContext,从而将数据写入
到
Accumulo中。我想知道有没有更好的方法。我看过Cassandra和
HBase
输出格式的示例,想知道是否可以为Accumulo做类似的事情。Cassandra和
HBase
似乎
使用
了
浏览 1
提问于2015-10-12
得票数 0
1
回答
Hortonworks火花
Hbase
连接器(SHC)-向
Hbase
写入Dataframe
时
的空指针异常
、
下面是
使用
spark
连接器向
Hbase
写火花Dataframe的简单代码。我被NullPointerException的df.write操作击中,并停止编写DF
到
Hbase
。然而,我能够
从
Hbase
读取
使用
火花-
Hbase
连接器。这一问题在以下链接中进行了讨论,但建议的解决办法没有帮助。String)
浏览 2
提问于2020-05-18
得票数 0
回答已采纳
1
回答
使用
Python - class未找到异常的星火流
、
我正在进行一个项目,
使用
Spark
将数据
从
CSV文件大容量加载到
HBase
。我
使用
的代码如下(改编自): conf = {#removed for brevity} keyConv = "org.apache.
spark
.examples.pythonconverters.StringToImmutableBytesWritableConverterrdd.flatMap(lambda line: line.split(
浏览 1
提问于2016-01-20
得票数 1
回答已采纳
1
回答
如何
使用
Python连接
HBase
和
Spark
?
、
、
、
、
我有一个令人尴尬的并行任务,我
使用
星火分配计算。这些计算是用Python进行的,我
使用
PySpark来读取和预处理数据。我的任务的输入数据
存储
在
HBase
中。不幸的是,我还没有找到一种令人满意的(即易于
使用
和可伸缩的)方法来
使用
Python
从
/写入
HBase
数据。
使用
happybase
从
我的Python进程中进行连接。这个包允许通过
使用
HBase</em
浏览 4
提问于2016-07-19
得票数 15
回答已采纳
2
回答
只写入一个
hbase
区域服务器
、
、
、
org.apache.
spark
.rdd.PairRDDFunctions hJob.setOutputFormatClass(classOf[TableOutputFormat[ImmutableBytesWritable]]) } 通过
使用
此
hbase</em
浏览 7
提问于2017-02-03
得票数 3
回答已采纳
3
回答
将
Spark
dataframe插入
hbase
、
、
、
、
我有一个数据帧,我想把它插入
hbase
。我遵循这个。------||--------------------| --------------------val tableName = "two"if(!-----------------------------------------------------
浏览 0
提问于2017-05-22
得票数 3
2
回答
HBase
·PySpark表加载错误
、
、
我试着
从
PySpark的
HBase
中读取一个表格。 testdata_conf= {"
hbase
.zookeeper.quorum": host, "
hbase
.mapreduce.inputtable": "test", &
浏览 1
提问于2016-07-27
得票数 1
3
回答
找不到火花-
hbase
mvn依赖
、
、
、
我想
使用
Spark
阅读
HBase
中的表。我添加了以下依赖项:正如
hbase
中提到的
浏览 4
提问于2016-02-29
得票数 4
回答已采纳
1
回答
发出不可序列化的对象类: org.apache.hadoop.
hbase
.io.ImmutableBytesWritable错误
、
我正试图将大量的数据
从
Spark
加载到
HBase
。我正在
使用
saveAsNewAPIHadoopDataset
方法。 } } }.
saveAsNewAPIHadoopDataset
当我一次提交10个文件的同一份工作
时
,每件事都
浏览 3
提问于2016-08-13
得票数 1
3
回答
HBASE
火花与HDFS火花
、
、
、
我知道
HBASE
是一个柱状数据库,它将表的结构化数据按列而不是按行
存储
到
HDFS中。我知道
Spark
可以
从
HDFS读/写,还有一些用于
Spark
的
HBASE
连接器现在也可以读写
HBASE
表。问题: 1)在
HBASE
之上分层火花而不是单独
使用
HBASE
所带来的附加功能是什么?它只取决于程序员的能力,或者有任何性能原因来这样做?是否有星火所能做的事,而
HBASE
却无法做到?2
浏览 4
提问于2016-08-13
得票数 9
回答已采纳
1
回答
使用
Spark
连接到
Hbase
时
出现异常
、
、
、
、
我正在
使用
Spark
连接到
Hbase
。我已经添加了所有的依赖项,但是我仍然得到了这个异常。请帮助我,我需要添加哪个JAR来解决这个问题。{SQLContext, _} import org.apache.
spark
.{SparkConf, SparkContext} impor
浏览 2
提问于2018-09-17
得票数 0
1
回答
如何在Azure HDInsight的
Spark
集群中配置
HBase
?
、
、
、
、
我已经在Azure中创建了HDInsight的
Spark
集群。现在,我希望将处理后的数据
存储
到
HBASE
中,并且我不想创建单独的
HBASE
HDInsight集群并
使用
VNET连接到
Spark
集群。我已经并且想要在我的
Spark
集群中
使用
所有的60个内核。因此,我想到了在HDInsight的
spark
Cluster中安装
HBASE
。当我在HDInsight星火集群中创建
时
,似乎已
浏览 3
提问于2017-04-18
得票数 2
2
回答
读取火花流中的
Hbase
数据
、
、
一开始,我尝试
使用
newAPIHadoop
从
hbase
获取数据。BecauseI希望每次我收到卡夫卡的记录
时
,都会用cf和
HBase
列来读取我的记录,这对我来说是行不通的。最后,我发现还有一种
使用
hbase
.clinet HTable
从
hbase
读取数据的方法。,并
使用
saveAsNewAPIHadoopDataset
方法保存到
HBase
中。比方说,如果我在1秒内有1000多个记录
浏览 5
提问于2016-09-29
得票数 3
回答已采纳
1
回答
丝上火花+固定
hbase
、
、
、
、
我提交了一个工作给纱线(在
spark
2.1.1 + kafka 0.10.2.1),它连接到一个安全的
hbase
集群。当我在“本地”模式(
spark
.master=local*)运行时,这个任务执行得很好。javax.security.auth.login.LoginException: Unable to obtain password from userUserGroupInformation.setConf
浏览 14
提问于2017-05-30
得票数 6
1
回答
Spark
2.3.0 SQL无法将数据插入
到
单元
hbase
表中
、
、
、
使用
与hive2.2.0集成的
Spark
2.3 thriftserver。
从
火花直线跑。尝试将数据插入
到
单元
hbase
表(以
hbase
作为
存储
空间的单元表)。插入
到
蜂窝本机表是可以的。当插入
到
hbase
表中
时
,它会抛出以下异常: org.apache.hadoop.hive.
hbase
.HiveHBaseTableOutputFormat不能转换为org.apache.hadoo
浏览 2
提问于2018-06-04
得票数 2
0
回答
将
Spark
df
存储
到
HBase
、
、
、
我正在尝试以一种有效的方式将一个火花DataSet
存储
到
HBase
中。当我们尝试用JAVA中的lambda来做类似的事情
时
:函数persistMappingtoHBase
使用
HBase
Java client (Put)
存储
在
HBase
中。I get
浏览 9
提问于2017-11-27
得票数 0
1
回答
在hadoop中实时处理超大型数据集
、
、
随着每小时,当新的数据被插入(没有更新)
到
hdfs,我需要找到多少贷款关闭,贷款创建,帐户过期等(大约1000个分析要执行)。分析涉及处理整个400 of的数据。获得数据的最佳方法是什么,它将增长到600 to。用于分析和检索的MR /蜂巢 提前感谢
浏览 4
提问于2015-03-16
得票数 1
回答已采纳
4
回答
如何
使用
火花
从
hbase
中读取
、
、
下面的代码将从
hbase
中读取,然后将其转换为json结构并转换为schemaRDD,但问题是,我是using List来
存储
json字符串,然后传递给javaRDD,对于大约100 GB的数据,主服务器将装载内存中的数据
从
hbase
加载数据的正确方法是什么,然后执行操作,然后转换为JavaRDD。;import org.apache.
spark
.
浏览 9
提问于2014-07-30
得票数 47
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
对象存储
云点播
实时音视频
活动推荐
运营活动
广告
关闭
领券