腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(2098)
视频
沙龙
1
回答
BigQuery
中与时区相关的问题(用于
分区
和查询)
、
、
我们的系统托管在
GCP
中。使用‘Exports’将要素日志导
出到
BigQuery
使用此日志
表
,我们需要每天生成报告。报告可以是每个活动每天的印象数。我们需要按ETC时间显示这些报告。因为
BigQuery
表
是<
浏览 0
提问于2019-03-11
得票数 4
1
回答
无法
将
按
日期
表
分区
从
BigQuery
导
出到
GCP
、
、
、
、
我正在尝试
将
分区
表
导
出到
GCP
存储桶中。我的主要目标是在
GCP
中创建日常文件。destination_format=CSV test.test_table$20210719 gs://test_partition/part_col=20210716/test_*.csv test_table是一个
分区
表
,
日期
为2021-07-19,我有7k行。只要$ sign包含在
表
名中,它之
浏览 20
提问于2021-07-20
得票数 0
回答已采纳
2
回答
Bigquery
Shard Vs
Bigquery
Partition
我有一个包含340 we数据的
表
,但我们只使用了过去一周的数据。因此,为了最大限度地降低成本,计划
将
这些数据移动到
分区
表
或分片
表
中。全
表
-27秒
分区
表
- 33秒切片
表
-
浏览 0
提问于2016-09-15
得票数 6
1
回答
如何
从
按
年份/月/日
分区
的桶中加载数据到
bigquery
我们有一个数据存储在
gcp
桶中,格式如下- gs:/gcptest/Year=2020/Month=06/day=18/test1.parquet和day=18文件夹下的这么多文件。我希望在
bigquery
中创建一个
表
,其中的列存在于文件中,并按文件路径上的年份、月份和
日期
进行
分区
。这样,当我
将
数据加载到
表
中时,我可以
从
gcp
桶中选择路径,并加载数据,这些数据
将
<em
浏览 3
提问于2020-06-18
得票数 1
回答已采纳
2
回答
bigquery
存储API:可以直接
将
AVRO文件流/保存到吗?
、
、
、
、
我想导出一个90 TB的
BigQuery
表
到。根据的说法,
BigQuery
存储API (beta)应该是因为与其他方法相关联的导出规模配额(例如ExtractBytesPerDay)。该
表
是
按
日期
划分的,每个
分区
占300 GB.我有一个运行在
GCP
上的Python笔记本,它通过这个
从
改编的脚本运行
分区
(并行)。rows = reader.rows(session) 是否可以
将
数据直接
从</e
浏览 4
提问于2020-05-20
得票数 1
1
回答
如何在
BigQuery
中
从
分区
表
中删除列
、
、
在
BigQuery
中,不能对
分区
表
使用create or replace table语句。我可以
将
表
导
出到
GCS,但是
BigQuery
会生成多个
无法
一次性导入到
表
中的JSON文件。有没有一种
从
分区
表
中删除列的安全方法?我使用
BigQuery
的web界面。
浏览 1
提问于2020-09-23
得票数 0
1
回答
如何
将
数据从一个大的非
分区
表
导
出到
作为
日期
分区
文件?
、
我希望
将
bigquery
非
分区
表
(2TB)中的数据作为
日期
分区
文件导
出到
。因此,我可以轻松地
将
大的非
分区
表
转换为
分区
表
。
浏览 2
提问于2017-07-10
得票数 1
回答已采纳
1
回答
为什么在
BigQuery
沙箱环境中会发生这种情况?-它只在
BigQuery
中创建空
分区
表
、
这对我来说也是一样的,在DDL语句下面运行创建
分区
表
时,它创建的是空的
分区
表
,不确定为什么!--这发生在
BigQuery
Sandbox环境中。FROM
bigquery
-public-data.stackoverflow.posts_questions
浏览 18
提问于2022-03-21
得票数 1
回答已采纳
2
回答
如何在
BigQuery
中回填
分区
数据?
、
我正在尝试
将
数据
从
GCP
账单导出
表
回填到另一个
表
,比如T1。下面的预定查询每天运行,以获取昨天的数据。SELECT * FROM
gcp
_billing_export_v1 WHERE DATE(_PARTITIONTIME) = DATE_ADD(CURRENT_DATE(), INTERVAL -1我在下面的查询中尝试了回填功能--期望回填实用程序将过去的
日期
(即5月15日)作为@run_date的param
浏览 20
提问于2022-06-22
得票数 0
1
回答
有没有一种方法可以对
从
BigQuery
中的查询创建的
表
进行
分区
?
、
在
BigQuery
中,我可以
从
查询创建一个永久
表
。有没有一种方法可以使这样的
表
按
日期
分区
?我可以查询
日期
分区
表
,但不能从查询创建
日期
分区
表
。例如,给定一个
按
日期
分区
的
表
tblwhere _partitiontime between cast('
浏览 3
提问于2016-12-13
得票数 1
1
回答
当表出现在Firebase Analytics
分区
表
中时,在
Bigquery
中调度查询
、
、
我正在使用
从
Firebase Analytics导
出到
Google
Bigquery
的数据。这些
表
在这种格式中是
按
日期
分区
的示例SELECT * FROM `PROJECTIID.analyticsxxxx.events_YYYYMMDD` LIMIT 1000不幸的是,这些
表
每天都在不同的时间(有时是上午10点,有时是凌晨5点,有时是下午2点)我想知道是否有一种方法可以使用带有" if“条件的
Bigquery
的”预定查询“
浏览 11
提问于2020-12-23
得票数 0
回答已采纳
2
回答
如何
将
分片
bigquery
表
作为DBT源加载
、
、
我是dbt新手,在
BigQuery
中,我可以使用asterix查询大型数据集中的
分区
表
。例如:asterix代表年份和月份,例如202211。如果我使用代码-gen包,它会为每个月创建一个
表
,但我不想每个月更新它。 我读到了增量数据源,但我不确定这是否是我所需要的?有人能给我指明正确的方向吗。
浏览 11
提问于2022-11-22
得票数 0
回答已采纳
1
回答
如何
将
负载均衡器日志实时导
出到
BigQuery
?
、
、
、
我们正在尝试
将
所有的http请求导
出到
我们的google负载均衡器到大查询中。不幸的是,我们注意到数据在3分钟后到达
BigQuery
。
从
本教程开始:
表
按
日期
进行
分区
,并在小时和分
浏览 0
提问于2019-07-17
得票数 0
2
回答
如何
从
java创建
BigQuery
中的
分区
表
?
、
我想从java在
BigQuery
中创建一个
分区
表
(
按
字段划分,
按
日期
类型划分)。我找了很多,但这方面没有多少信息。build();
bigquery
.create(tableInfo); 我们是否应该使用TimePartitioning,即使我们想
按<
浏览 0
提问于2019-12-30
得票数 3
1
回答
谷歌BigTable的模式设计
、
、
在我的项目中,我使用的是谷歌
BigQuery
,它保存了大量的数据。
BigQuery
列是: account_id,session_id,transaction_id,用户名,事件,时间戳。在我的测试中,BigTable的性能比
BigQuery
慢。是否有任何建议的模式可以提高BigTable的性能?
浏览 3
提问于2022-05-25
得票数 0
1
回答
无法
按
日期
创建
分区
(时间戳)
你好,我正在使用我的个人
GCP
帐户在
Bigquery
中玩,我仍然在我的免费范围内(一个账单帐户是链接的,但还没有发生任何费用)。因此,我创建了一个
表
,
从
bigquery
中获取baseball.games_wide
表
。下面是我在时间戳列'startTime‘上带有
分区
的简单CREATE查询。`该
表
已成功创建,我可以看到工作人员有写入阶段,这是某种东西正在写入
表
的指示符。但是,当我转到“预览
浏览 4
提问于2022-09-21
得票数 0
2
回答
如何使用Airflow
将
BigQuery
分区
导
出到
GCS
、
、
我需要创建一个Airflow作业,
将
BigQuery
表
中的
分区
导
出到
给定范围的_PARTITIONDATE之间的GCS。我需要
分区
是在单独的文件与
日期
的
分区
。我如何才能做到这一点?
浏览 0
提问于2019-09-17
得票数 1
1
回答
如何在
BigQuery
中最大限度地减少每次执行SQL查询的成本
、
、
我是
BigQuery
和
GCP
的新手。我正在使用
BigQuery
中可用的(大型)公共数据集,运行一个SQL查询--它基于一个简单的where子句
从
dataset中的一个
表
中选择一组数据。我的问题是,每次我这样做,都会导致
BigQuery
处理4+百万行数据,而运行这个查询的成本对我来说是快速增加的。有没有方法可以运行SQL查询并将数据导
出到
GCP
中的另一个
表
/数据库,然后对导出的数据运行我的操作?我是否正确地假设(这里可能是错误
浏览 3
提问于2019-12-30
得票数 2
回答已采纳
1
回答
日期
分割或
日期
分割
、
我在
BigQuery
中有很多表是分
日期
的,包括几年的数据。最近有人告诉我,这是一种旧的优化方法,而且
日期
分区
要快得多。 这是正确的吗?我一直在寻找方法来提高对这些数据的查询速度,如果
日期
分区
允许更快的查询,我应该重新构建所有的
日期
分割GA
表
作为
日期
分区
吗?我应该两者都做吗?我可以期望看到什么样的性能影响,这真的值得付出努力吗?
浏览 0
提问于2019-04-18
得票数 1
1
回答
可以在
BigQuery
中划分嵌套
表
吗?
、
、
我目前正在
将
数据仓库迁移到
BigQuery
中。我一直试图去美化数据库,因为我已经读到它可以带来更高效、更便宜的查询。然而,这导致了许多嵌套
表
。如果每个嵌套
表
都有一个列"created_at“和"last_modified_at",那么是否可以使用这些值中的任何一个来对表进行
分区
?
浏览 3
提问于2021-12-02
得票数 1
回答已采纳
点击加载更多
相关
资讯
谷歌将以太坊区块链数据集添加到其大数据分析平台
使用Kafka,如何成功迁移SQL数据库中超过20亿条记录?
从Lambda到无Lambda,领英吸取到的教训
Sqoop使用实例讲解
批处理实现最简化数据自动备份
热门
标签
更多标签
云服务器
ICP备案
对象存储
云点播
实时音视频
活动推荐
运营活动
广告
关闭
领券