腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
处理
卡在
步骤
WriteSuccessfulRecords
中
...
使用
模板
发布
/
订阅
->
BigQuery
时
、
当我
使用
已定义的
模板
时
,我总是遇到这个问题。我不确定问题出在哪里。关于sdk:Apache Beam SDK for Java 2.10.0 Processing stuck in step
WriteSuccessfulRecords
/StreamingInserts$DatasetServiceImpl.insertAll(BigQueryServicesImpl.java:765) at org.apache.beam.sdk.io.gcp.
bigquery
.BigQueryServi
浏览 11
提问于2019-03-16
得票数 0
3
回答
数据流管道-“至少在没有输出或完成状态完成<STEP_NAME>的情况下,在
步骤
<TIME>中进行
处理
”。
、
、
、
因为我不允许在同一个线程
中
问我的问题,而另一个人有同样的问题(但不
使用
模板
),所以我正在创建这个新线程。Processing stuck in step
WriteSuccessfulRecords
/StreamingInserts/StreamingW
浏览 0
提问于2019-05-24
得票数 0
回答已采纳
2
回答
Dataflow应该
使用
Pub/Sub主题或
订阅
中
的事件吗?
、
、
、
我希望
使用
Dataflow将事件从PubSub流流到
BigQuery
。我看到在GCP中有两个
模板
可以实现这一点:一个是Dataflow从主题中读取消息,另一个是
订阅
。在这里
使用
订阅
的好处是什么,而不仅仅是
使用
主题中的事件?
浏览 0
提问于2019-05-24
得票数 2
回答已采纳
1
回答
从
BigQuery
导出到PubSub -数据流不会发生任何事情
、
、
我正在尝试设置一个数据流作业,以便将数据从PubSub主题写入
BigQuery
表。我单击了PubSub主题控制台中的"Export“,并执行了以下详细
步骤
。(Unknown Source) 当我通过
WriteSuccessfulRecords
单击
时
,我会在"StreamingWrite“框
中
同时显示(这一次意味着什么?)
WriteSuccessfulRecords
(和StreamingWrite等)框
中
的“运行”时间目前在2天以上,大约一小
浏览 3
提问于2020-11-05
得票数 1
1
回答
数据流
模板
Cloud /Sub主题与
BigQuery
订阅
、
、
我正在建立一个概念的简单证明,以学习Google
中
的一些概念,特别是PubSub和Dataflow。我有一个PubSub主题greetingconst escapeHtml = require('escape-html');};
浏览 0
提问于2019-05-16
得票数 7
1
回答
VCP Google Cloud Platform的数据流
发布
/
订阅
主题到
BigQuery
,而不是从
订阅
中提取数据
、
、
、
、
我正在
使用
GCP
处理
和存储从模拟IoT设备发送的数据。数据(应该)在以下路径中流动: 带有mqtt客户端的模拟IoT设备-> IoT核心设备-> IoT核心注册表->
发布
/
订阅
主题->
发布
/
订阅
订阅
->云数据流
发布
/
订阅
订阅
BigQuery
模板
->
BigQuery
它不会从
订阅
中提
浏览 21
提问于2021-10-01
得票数 0
回答已采纳
1
回答
使用
GCP数据流PubSub to
BigQuery
模板
时
的表列名称问题
、
、
、
背景:
发布
/
订阅
消息
中
的一些字段名包含破折号(-),我无法控制这些破折号,并且数据流
模板
似乎期望在目标
BigQuery
表中<em
浏览 0
提问于2019-08-01
得票数 0
2
回答
将json文件加载到
bigquery
的云函数
我们需要将一个json文件上传到云存储桶
中
,然后我们需要编写一个云函数来将json文件数据加载到
bigquery
表
中
。
浏览 0
提问于2020-03-04
得票数 0
1
回答
为什么
使用
Gcloud Pub/Sub?
、
、
、
为什么
使用
发布
/
订阅
?Usecase:有一个http触发的"Cloud function“,在这个函数上发送一些数据。此函数在
处理
数据后,将数据
发布
到
发布
/
订阅
主题。然后还有另一个Cloud函数,它是基于
发布
到该
发布
/
订阅
主题而触发的。因此,这个云函数从
发布
/
订阅
中
获取已
发布
的数据,并将其插入到<
浏览 7
提问于2021-04-09
得票数 1
回答已采纳
1
回答
导出到
Bigquery
的数据流: insertAll错误,无效的表引用
、
、
我正在尝试
使用
数据流、
发布
/
订阅
和
BigQuery
来创建和导出合成数据流。(1,50)}} } 该架构位于文件gs://my-folder/my-schema.json
中
。流似乎运行正常-我可以
使用
“导出到云存储”
模板
从相应的
发布
/
订阅
主题导出到GCS存储桶。当我尝试
使用
“导出到
BigQuery
”
模板
时
,我一直收到
浏览 2
提问于2020-10-27
得票数 2
回答已采纳
1
回答
云数据流、PubSub和
Bigquery
问题
、
、
、
、
我想
使用
Cloud Dataflow、PubSub和
Bigquery
将tableRow写入
发布
订阅
消息,然后将它们写入
Bigquery
。我希望表名、项目id和数据集id是动态的。
浏览 0
提问于2018-07-15
得票数 0
2
回答
发布
/
订阅
到不
使用
DataFlow的
Bigquery
、
、
、
我想
使用
pubsub将数据插入到
bigquery
表
中
。数据已经
处理
过了,所以我不需要数据流。我该怎么做呢?提前感谢
浏览 0
提问于2018-07-03
得票数 2
1
回答
使用
Javascript将传感器生成的数据推送到Google Cloud Function
、
、
、
、
我需要帮助
使用
代码获取生成的数据,并将其发送到云上。我是一个初学者,我不知道如何去解决这个问题,所以任何类型的方向都将非常感谢。下面是用于获取数据并将其打印到HTML表上的代码。
浏览 1
提问于2021-02-22
得票数 0
1
回答
处理
流经
发布
订阅
到
Bigquery
的记录的unique_id和时间戳特性
、
我正在尝试构建一个流/批
处理
管道,它从
发布
/
订阅
中
读取事件,并
使用
python3.6将它们写入
BigQuery
根据文档,云
发布
/
订阅
会为每条消息分配唯一的message_id和timestamp,用于检测
订阅
者收到的重复消息https://cloud.google.com/pubsub/docs/faq) 要求如下: 1)消息可以以任意顺序传入(异步消息
浏览 13
提问于2019-10-16
得票数 0
2
回答
在Google /Sub
中
处理
订阅
过滤器更改的最佳方法是什么?
、
问题:我知道Google Pub/Sub
订阅
无法修补以更新过滤器。我只是想出其他方法来
处理
产品
中
的更新来过滤。我可以想出的方法:
浏览 0
提问于2021-07-13
得票数 1
1
回答
如何通过谷歌提供的PubSub to
BigQuery
数据流
模板
使用
现有的PubSub
订阅
、
我正在尝试
使用
谷歌提供的
模板
PubSub to
BigQuery
设置一个数据流作业。我看到一个用于指定云
发布
/
订阅
输入主题的选项,但我没有看到任何用于在GCP控制台UI中指定
发布
/
订阅
输入
订阅
的选项。在
浏览 3
提问于2018-01-12
得票数 3
回答已采纳
1
回答
GCP数据流
模板
:无法自定义google提供的基于java的PubSubToBQ
模板
、
、
、
、
问题陈述是我们正在自定义PubSubToBQ提供的PubSubToBQ数据流java
模板
,在该
模板
中
我们将配置多个
订阅
/主题来读取数据并将数据推送到多个
Bigquery
表
中
,这需要作为单个数据流管道执行但是,当我们从eclipse执行
模板
时
,我们必须在gcs桶上传递
订阅
/主题和烧烤细节,然后
使用
具有不同
订阅
和烧烤细节的gcloud命令运行
模板
。数据流作业不会被新
浏览 0
提问于2019-07-16
得票数 0
2
回答
使用
数据流将来自Pub/Sub
订阅
的csv数据流到
BigQuery
、
、
我在数据流中
使用
Pub/Sub
订阅
BigQuery
模板
。Pub/Sub
订阅
中
的消息数据是csv格式,如下所示 这将在加载到
BigQuery
表
时
留下一个错误。如何在
模板
中将CSV数据转换为JSON?
浏览 0
提问于2021-03-10
得票数 0
1
回答
通过数据流SQL实现云
发布
/
订阅
到
BigQuery
、
、
、
在我的例子
中
,我有一些定期
发布
到云
发布
/
订阅
的内容,然后Dataflow将其写入
BigQuery
。通过的消息量数以千计,所以我的
发布
者客户端有1000条消息的批
处理
设置,1mb和10秒的延迟。问题是,在批
处理
中
发布
时
,Dataflow SQL是接收批
处理
中
的所有消息并将其一次性写入
BigQuery
,还是一次写入一条消息? 有没有一个比另一个更好的好处呢?
浏览 35
提问于2021-11-23
得票数 0
回答已采纳
1
回答
运行apache beam移动游戏教程的命令是什么?
、
但是,本教程
中
没有给出运行手机游戏的命令。 有没有人能教我怎么做?我在Google Cloud Shell上
使用
以下
浏览 35
提问于2019-05-23
得票数 0
回答已采纳
点击加载更多
相关
资讯
推动数据设备信息化进程 勤哲Excel服务器发挥大作用
谷歌BigQuery ML正式上岗,只会用SQL也能玩转机器学习!
实战案例 | 如何用一个平台跑通从数据接入到可视化展示的全链路?
使用Java部署训练好的Keras深度学习模型
分析GitHub:最流行的许可证是什么?
热门
标签
更多标签
云服务器
ICP备案
对象存储
云点播
云直播
活动推荐
运营活动
广告
关闭
领券