腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
BigQuery
-
在
Python
语
言中
创建
外部
表
、
我找不到任何关于如何使用
Python
在
BigQuery
中
创建
外部
表
的文档。我希望
在
不使用自动检测但传递模式的情况下
创建
表
。有人知道怎么做吗?谢谢!
浏览 0
提问于2018-07-31
得票数 3
1
回答
在
标准sql GBQ中使用Create Table函数时
在
表
名中添加今天日期
SQLas select * from `yyy.yyy.applications` 我需要做的是
在
表
名的末尾添加今天的日期,所以它类似于xxx.xxx.applications_<todays date>,基本上是用应用程序
创建
一个文件名,但在名称应用程序的末尾添加日期。我正在编写一个过程,以便在每次运行时
创建
一个
表
,但每次
创建
该
表
(作为备份)时,出于审计
浏览 2
提问于2020-05-09
得票数 0
1
回答
使用
bigquery
客户端库
创建
到云存储的
外部
表链接
从Google控制台,我们可以手动
创建
外部
bigquery
表
,该
表
将链接到Google云存储Json新行分隔文件。但是
在
bigquery
客户端库中,我找不到示例代码允许我
创建
bigquery
外部
表链接到云存储保存的json文件。function create_table($projectId, $datasetId, $tableId, $schema) $
bigQuery
= new Bi
浏览 7
提问于2017-03-23
得票数 0
回答已采纳
1
回答
如何在
Python
3.7中为
BigQuery
的谷歌客户端库编写单元测试?
、
、
、
我使用的是谷歌客户端库的
BigQuery
和存储。 client =
bigquery
.Client() job_config =
bigquery
.QueryJobConfig(destination
浏览 1
提问于2019-12-10
得票数 0
1
回答
位于上的谷歌
BigQuery
表
没有
在
Power中上市
、
、
我
在
Google BigTable上
创建
了一个实例,并在Google
BigQuery
上
创建
了一个
外部
表
,并
创建
了一个能够从BigTable获取记录的
外部
表
。我试图
在
BigQuery
Power桌面中
创建
一个数据源,但是
外部
表
没有列出,但是
在
BigQuery
上
创建
的
表
被列出了
浏览 1
提问于2020-07-17
得票数 2
2
回答
BigQuery
:“bq”和“bq”的区别
、
我有一个云存储桶,大约有18个
表
的
外部
分区的蜂巢宴会厅。 对于大多数拼板文件,shell For循环构建
外部
表
定义文件,然后调用'bq‘,并从这些defs生成数据集中的
表
。这个失败的未完成的
表
可以用'bq load‘的形式稍后被带到BQ中。我想知道这些工具之间的区别是什么,以及一个工具
在
使用一个工具或另一个工具时会产生什么影响。
浏览 19
提问于2022-08-30
得票数 0
1
回答
想要在(
BigQuery
)上设置镜像的写首选项
请参阅“从图像”选项设置高级选项中不可用的写入首选项。
浏览 0
提问于2020-09-08
得票数 0
2
回答
具有少量字段的记录的最高性能文件格式(Avro/Parquet/ORC)
、
、
、
我正在向
BigQuery
上传大量数据(约160 Im未压缩)。 GZIP对我来说不是一个选项,这里需要压缩,所以我使用Avro/Parquet/ORC
在
块级别上进行压缩。我对读取速度不太感兴趣,因为
BigQuery
将会这样做,
在
写入方面性能最好的文件格式是什么?
浏览 26
提问于2019-12-31
得票数 1
3
回答
pandas-gbq目前是否支持参数化查询?
、
、
我需要使用Pandas/ Pandas -gbq
在
Python
语
言中
创建
一个简单的ETL管道,每天将给定日期范围内的数据从
BigQuery
读取到Pandas数据帧中,并根据查询结果
创建
单独的日表(写回
BigQuery
尽管可能有更好、更有效的方法(注意:我不是软件工程师),但我目前正在研究
BigQuery
中的来参数化日期列,并在
Python
中的for循环中迭代这一过程。
浏览 2
提问于2019-12-17
得票数 2
2
回答
将
BigQuery
联邦
表
作为数据源在数据流中读取会引发一个错误
、
我
在
BigQuery
中有一个联邦源代码,它指向GCS中的一些CSV文件。当我尝试将联邦
BigQuery
表
作为Dataflow管道的源读取时,它会引发以下错误: 1226 [main] ERROR com.google.cloud.dataflow.sdk.util.BigQueryTableRowIterator- Error reading from
BigQuery
table Federated_test_dataflow of dataset CPT_7414_PLAYGROUND : 4
浏览 5
提问于2016-03-24
得票数 4
回答已采纳
2
回答
如何将Google中的数据附加到
BigQuery
中?
我根据这个Google
创建
了一个
BigQuery
表
--初始连接工作,来自工作
表
的数据可以
在
BigQuery
中正确查询。 Q:明天谷歌表格中的数据将被覆盖。如何将中的日常数据从Google附加到
BigQuery
中,这样,我就可以像归档一样连续地
在
BigQuery
上添加数据了?我没有找到任何此类任务的教程--我发现的所有东西都是关于将Google页连接到
BigQuery
并从一个到另一个获取数据,而不是一种归档。
浏览 10
提问于2022-05-30
得票数 0
1
回答
Google
BigQuery
和Google Bigtable之间有什么关系?
、
、
基于许多来源,我了解到(
BigQuery
和Bigtable)都被认为是用于数据和的2不同的解决方案。例如,写道,如果我们需要大量数据的统计数据(例如,和、平均值、计数),我们可以将
bigQuery
看作一个数据存储。相反,BigTable可以像通常的NoSql存储一样考虑。另一方面,我读过,其中提到: 从这个片段中,我了解到
BigQuery
是一个用于从任何地方查询的工具,而不是用于数据存储的工具。你能澄清一下吗?
浏览 2
提问于2020-03-03
得票数 0
回答已采纳
1
回答
如何使用Dataproc
在
BigQuery
中
创建
外部
表
、
、
、
我的用例包括使用Pyspark代码
在
Bigquery
中
创建
外部
表
。数据源是Google云存储桶,JSON数据就在这里。我正在将JSON数据读入数据框架,并希望
创建
一个
外部
Bigquery
表
。到目前为止,该
表
正在
创建
,但它不是
外部
表
。df_view.write\ .format("com.google.cloud.spark.
bigquer
浏览 3
提问于2020-02-26
得票数 2
回答已采纳
1
回答
可以使用
BigQuery
在
Bigtable之上运行吗?
、
我需要在Bigtable的基础上运行
BigQuery
,而不是作为导出。我发现的信息表明,它是
在
测试版,但只是作为一个导出功能。我想在不导出的情况下针对Bigtable数据运行
BigQuery
。重要的是,通过执行时间点导出,
在
实时运行时不会丢失数据。
浏览 0
提问于2018-11-07
得票数 2
1
回答
更新
BigQuery
永久
外部
表
、
、
我使用
BigQuery
存储“原生”
BigQuery
表
中的数据,并查询存储
在
中的数据。根据文档,可以使用两种类型的
表
查询
外部
源:永久
表
和临时
外部
表
。考虑以下场景:每天都有一些拼花文件是用GCS编写的,并且
在
一定频率下,我希望
在
存储
在
BigQuery
表
中的数据和存储
在
拼花文件中的数据之间进行连接。如果我
创建
一个永久
浏览 11
提问于2020-08-25
得票数 2
回答已采纳
1
回答
Google Cloud SDK -如何通过内部网关url调用google apis或url?
、
、
我们使用google cloud sdk
Python
从
BigQuery
表
中获取Crashes数据。根据公司政策,所有传出的互联网流量都必须通过集中式网关进行路由。然而,我们注意到
bigquery
api是硬编码
在
Python
程序中的。我们如何将端点
外部
化,以便通过此网关进行调用,而不是更改程序?讨论中的端点是:https://
bigquery
.googleapis.com/upload/
bigquery
浏览 26
提问于2021-04-14
得票数 0
回答已采纳
1
回答
DBT是否可以直接连接到Google?
、
、
、
、
我们目前有一个DBT实例,它位于我们的Google
BigQuery
数据仓库之上。现在,我们被要求将来自Google的一些数据合并到我们的建模中。 这样,DBT是否有可能直接与Google连接?例如,将Google配置为.yml文件中的直接
外部
数据源,还是让DBT可能运行某种
BigQuery
联邦SQL语句?有一个名为DBT -
外部
表
()的dbt包,但这似乎只适用于GoogleCloudStorage存储桶中的
BigQuery
+文件。但是我
在
论坛和文档中看到的最常见也是
浏览 10
提问于2022-04-14
得票数 0
回答已采纳
2
回答
通过Apps脚本的大查询API --我
在
一个较大的
表
上得到一个错误,但是
在
一个较小的
表
上工作。通过应用程序脚本有大小限制吗?
、
、
我正在使用Apps脚本向
BigQuery
发送查询我可以
在
控制台内成
浏览 1
提问于2020-07-09
得票数 0
1
回答
是否有
BigQuery
LoadJob配置来使用模式自动检测过滤掉不需要的列?
、
、
、
如果我有修改作业配置的权限,
在
本例中通过
python
。是否可以忽略某些列作为加载作业的一部分?,例如 John, 26, Male 我的当前解决方
浏览 7
提问于2021-10-29
得票数 0
回答已采纳
1
回答
Google
Bigquery
:如何从web UI查询界面以编程方式
创建
表
(保存结果)?
我们通过一个似乎主要是Web查询/结果窗口的接口来使用
BigQuery
,我需要在那里运行一个查询来
创建
中间结果,然后对它们进行连接(逐步解决问题,因为
BigQuery
似乎不支持嵌套子查询(具有
外部
连接)我可以
在
Web中执行此操作,方法是运行第一个查询(对于中间结果集),从
BigQuery
UI的查询历史记录中获取临时
表
名,并对其运行第二个查询联接,或者将第一个查询的结果保存到UI中更持久的
表
名中。
在
查询中,有没有一种方法可以
浏览 1
提问于2016-04-16
得票数 1
点击加载更多
相关
资讯
谷歌推出Bigtable联邦查询,实现零ETL数据分析
分析GitHub:最流行的许可证是什么?
谷歌BigQuery ML正式上岗,只会用SQL也能玩转机器学习!
谷歌融合SQL、Python和Spark推进Colab Enterprise发展
如何用纯SQL查询语句可以实现神经网络?
热门
标签
更多标签
云服务器
对象存储
ICP备案
云点播
实时音视频
活动推荐
运营活动
广告
关闭
领券