腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
如何
使用
apache
nifi
将
多个
json
文件
加载到具有正确映射的多个
hive
表中?
、
、
、
我需要
使用
apache
nifi
将
基于表名的多个
csv
文件
摄取到它们各自的配置单元表中。源
json
文件
中的table_address数据应该转到配置单元中的table_address,其他表也是如此。简而言之,需要将源
json
文件
中的记录分离
到
多个tablename.
csv
格式的
csv
文件
中,并将其加载到各自的
hive
表中。我<
浏览 6
提问于2019-04-10
得票数 0
0
回答
如何
使用
apache
NiFi
将
csv
或
JSON
文件
存储
到
hive
?
、
、
我注意
到
nifi
中没有可以直接
将
文件
存储
到
hive
中的处理器。有没有处理器的组合可以帮助你做到这一点,或者有任何可用的模板可以做到这一点? 谢谢。
浏览 1
提问于2016-07-09
得票数 1
1
回答
基于
文件
结构的蜂箱表创建
、
我有一个疑问,在蜂箱中是否有任何方法在装载期间创建表
到
蜂窝仓库
或
外部表。而不是
如何
将
这些
文件
加载到
hive
表中。因此,简而言之,
如何
在不知道HDFS的架构结构的情况下
将
文件
从HDFS加载到
HIVE
Table。 新来的蜂巢,如果我的理解是错的,请原
浏览 1
提问于2018-07-07
得票数 2
回答已采纳
1
回答
如何
使用
CURL
将
.
csv
文件
从本地计算机(Getfile)发送到
Apache
Nifi
中的配置单元(Puthiveql)?
、
、
我想
使用
CURL.Please
将
.
csv
文件
或
mysql表从本地计算机(GetFile)发送到
Apache
Nifi
中的
Hive
(PutHiveql),让我知道是否有
使用
Curl执行此操作的命令。
浏览 0
提问于2017-06-28
得票数 0
2
回答
ExcelToCsv
nifi
处理器中的问题
我正在
使用
csv
处理器的.xlsx
文件
到
ExcelToCsv
文件
的对话。想要转换一堆.xlsx
文件
,其中有不同格式的数据
到
csv
。
将
文件
转换为
csv
后,数据
将
发生如下更改。https://
nifi
浏览 5
提问于2020-05-02
得票数 0
2
回答
如何
使用
流创建正在运行的
nifi
docker镜像
、
我启动了一个
apache
/
nifi
容器,构建并配置了一个流。我不清楚是什么
文件
(nar、xml等)需要对用户要运行的映像可用。
浏览 5
提问于2020-09-22
得票数 1
1
回答
无法为twitter数据从星火外壳中创建一个表格
、
、
、
我
将
twitter数据
存储
在hdfs路径中。我能够
将
数据读取为:df.printSchema和df.show命令显示结果,没有任何问题。但是,当我试图
将
数据帧
浏览 0
提问于2018-09-26
得票数 0
1
回答
如何
在
Apache
PostgreSQL中进行批量插入而不指定物理
csv
文件
、
、
、
我需要在
Apache
命令中不指定物理PostgreSQL
文件
的情况下对
NiFi
表进行批量插入。我只是不能将
CSV
文件
存储
在磁盘上,并且希望
使用
来自以前处理器并已经采用
CSV
格式的流
文件
进行批量插入(或者我可以将它更改为
json
,这不是问题)。请注意,在
Apache
NiFi
中,最好的方法是什么?
浏览 1
提问于2021-03-01
得票数 1
回答已采纳
1
回答
hadoop中的小
文件
我正在尝试合并hdfs上的小
文件
。这只是为了历史目的,如果需要的话,大型
文件
将被分解并运行在创建hadoop表的数据的过程中。是否有办法简单地做到这一点?例如,第一天接收100个小
文件
,合并成一个
文件
,然后第二天
将
更多的
文件
添加/追加到以前创建的
文件
中,等等.
浏览 0
提问于2017-09-25
得票数 0
回答已采纳
1
回答
从流
文件
内容中提取多行内容
、
、
一旦完成,我想要在
Hive
中创建一个表。 我和FetchFile一起
使用
ExtractText,但无法使它工作。如果我
将
整个模式放入属性中,那么
如何
使用
NiFi
处理器甚至表达式语言来实现这一点呢? 还是有更好的方法在导入的数据上创建表?
浏览 0
提问于2018-09-23
得票数 2
回答已采纳
3
回答
Apache
NiFi
: PutElasticSearchHttp不工作,出现空白错误
、
我目前在同一台机器上运行Elasticsearch版本6.2.2和
Apache
Nifi
版本1.5.0。我正在尝试遵循
Nifi
的例子:,除了不
存储
到
Hive
,我想
存储
到
Elasticsearch。] minimal compatible version is: [5.6.0]以及Put
浏览 183
提问于2018-03-16
得票数 3
回答已采纳
3
回答
连接到IntelliJ中的现有
Hive
(
使用
SBT作为构建)
、
、
、
我只是试图通过
hive
中的创建一个表。我
使用
IntelliJ进行开发。现在,我只想
使用
Spark在单元格中创建一个表。val sc = new SparkContext("local", "name") val sqlContext = new org.
apache
.spark.sql.
hive
.HiveContext我在用户邮件列表中询问,得到的答案是,我应该
将
hive
-site.xml复制
到
$SPA
浏览 9
提问于2015-02-09
得票数 1
回答已采纳
1
回答
NiFi
如何
在内存
或
磁盘中
存储
流数据
、
、
当下一个处理器无法接收
或
处理任何数据时,有人能详细解释
NiFi
处理器(如GetFile
或
QueryDatabaseTable )是
如何
存储
行的吗?它是否有耗尽内存
或
丢失数据的风险?
浏览 4
提问于2017-05-15
得票数 5
回答已采纳
3
回答
出口直线蜂箱中的
csv
、
、
我正试图将我的蜂箱表导出为直线蜂箱中的
csv
。当我运行命令!sql select * from database1 > /user/bob/output.
csv
时,它会给出语法错误。我已经
使用
下面的命令成功地连接到数据库。查询在控制台上输出正确的结果。beeline -u 'jdbc:
hive
2://[databaseaddress]' --outputformat=
csv
另外,也不太清楚
文件
在哪里结束。它应该
浏览 4
提问于2016-09-19
得票数 24
回答已采纳
1
回答
NiFi
的PutHiveStreaming处理器不会从
hive
-site.xml中提取属性。
、
、
我想
使用
NiFi
将
数据插入
到
一个单元表中。
hive
.compactor.in
浏览 2
提问于2018-05-15
得票数 0
1
回答
Nifi
ConvertAvroToORC处理器不能转换包含浮点数和浮点数数组的avro
文件
。
、
、
GetFile --只要得到上面可以看到的
json
。ConvertRecord --只需将JsonTreeReader收到的
json
转换为AvroRecordSetWriter的avro即可。在
将
avro转换为orc的步骤中,抛出异常: at org.
apache
.
nifi</e
浏览 2
提问于2018-12-01
得票数 1
回答已采纳
1
回答
NiFi
- SelectHiveQL能以拼板格式从CDH集群上的表中读取数据吗?
、
、
我正在考虑在AWS
NiFi
实例上设置EC2,以便
将
数据从内部集群移动到AWS s3
存储
。
或
我唯一的选择是直接从hdfs目录读取数据并将其放在s3上,然后在EMR中创建
hive
表?Question#2:
Nifi
如何
确定插入
到
表中的新数据并读取新数据。在我的示例中,所有表都由yyyymm分区。
浏览 0
提问于2018-10-24
得票数 0
回答已采纳
1
回答
ExecuteStreamCommand不会读取外文字符
、
、
、
我们
将
Apache
Nifi
设置为
将
文件
写入本地驱动器,然后运行处理这些
文件
的程序,并将响应输出到" response“属性。这是一个
JSON
字符串,我们随后将其传递给API以更新记录。
Nifi
正在运行Windows 10环境当我们
使用
Nifi
输出的
文件
手动运行程序时,我们得到了正确的输出。仅在
Nifi
中出现问题。举个例子,输入
json
是: &q
浏览 2
提问于2019-09-11
得票数 0
1
回答
Spark与
Hive
的区别
、
、
你能帮我理解星火SQl和蜂巢的区别吗?
浏览 2
提问于2017-06-04
得票数 1
1
回答
利用
NiFi
将
CSV
数据摄取到蜂巢中
、
、
、
、
我正在尝试
将
csv
数据摄取到
Hive
数据库中。为此目的,listFile --> FetchFile --> ConvertCSVToAvro --> ConvertAvroToOrc --> PutHDFS现在,我想用putHiveQL处理器进行测试。兽人的数据不能直接加载到蜂巢?如果是,我们必须手动
浏览 1
提问于2019-05-16
得票数 1
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
程序员需要关注的十个大数据技术
大数据技术分享:十大开源的大数据技术
Apache NiFi介绍及使用体验
Apache Calcite 动态数据管理框架入门介绍
Apache Drill 一个实时查询引擎的入门
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券