腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
Bigquery
Dataframe
的
pytest
问题
、
、
、
、
在本地,我可以在Notebook和.py文件中使用
Bigquery
获取数据帧。但是,在使用
pytest
进行测试时, bq=
bigquery
.Client(project='xyz')df = bq.query(str(query_string)).result().to_
dataframe
() assert df 它会通过一个错误 @Final def非零(Self):提升ValueErr
浏览 15
提问于2021-08-20
得票数 0
2
回答
测试木星笔记本
、
、
、
、
当一个新
的
笔记本被实现在Github分支中并提交一个拉请求时,应该运行一个测试。测试并没有那么复杂,它们大多只是测试笔记本是否端到端,没有任何错误,也许还有一些断言。然而: 我查看了一些用于测试笔记本
的
库,如、和,但我无法使它们工作。我还
浏览 14
提问于2022-01-11
得票数 6
回答已采纳
1
回答
有没有办法将用zlib创建
的
字节类型上传到?
、
、
我希望通过pyhton
的
zlib库向
bigquery
输入字符串数据。下面是使用zlib生成数据
的
示例代码:import pandas as pd df = pd.
DataFrame
() )1.
bigquery
API j
浏览 13
提问于2022-05-13
得票数 0
1
回答
BadRequest: 400语法错误:预期输入结束
、
、
、
我试图在SQL查询中使用
Dataframe
来连接google
BigQuery
中
的
另一个表,但我不知道它为什么要创建一个错误。BadRequest: 400语法错误:预期输入结束,但在3:77得到关键字时间 query = f""" FROM contact
浏览 1
提问于2022-06-13
得票数 0
3
回答
如何将Pandas数据直接上传到
BigQuery
?
、
、
、
、
我一直在使用Pandas格式化数据,然后我将其转换为CSV,然后手动上传到
BigQuery
(取决于大小,我以前上传到云存储)。 我经常使用GoogleCol堕胎作为我
的
笔记本用户界面。
浏览 10
提问于2020-11-03
得票数 0
回答已采纳
1
回答
用数组结构将
DataFrame
上传到
BigQuery
、
、
我有一个包含3列
的
熊猫
DataFrame
: col1包含列表,col2包含字典,col3包含NaNs:在将
DataFrame
上载到
BigQuery
时,我为第一列和第二列创建了以下模式:
bigquery
.SchemaField(name="col1", field_type
浏览 3
提问于2021-02-04
得票数 3
回答已采纳
1
回答
如何在保存到拼花文件时使用新
的
Int64熊猫对象
、
、
、
我正在使用Python (Pandas)将数据从CSV转换为Parquet,以便稍后将其加载到Google
BigQuery
中。我有一些包含缺失值
的
整数列,由于Pandas0.24.0,我可以将它们存储为Int64 dtype。 是否有一种方法也使用Int64
的
dtype在一个拼花文件?对于缺少值
的
ints,我找不到一个干净
的
解决方案(因此它们在
BigQuery
中保持为整数)。我已经尝试将它直接导入到
BigQuery
,并得到了与使用Pandas转换为拼花时相同
的
浏览 1
提问于2019-06-03
得票数 10
回答已采纳
2
回答
Python单元测试
、
、
我在单元测试以下代码块时遇到了
问题
:from google.oauth2 import service_account service_account.Credentials.from_service_account_info(gcp_ser_acc) client =
bigquery
.Clientmock.patch('service_account.Credentials'
浏览 2
提问于2018-12-10
得票数 6
回答已采纳
3
回答
热测试装置:测试熊猫数据
、
、
、
、
pytest
,我已经定义了一个conftest.py,它包含了我想要用于整个测试会话
的
一个夹具,它应该返回从csv文件导入
的
熊猫测试数据,如下所示:#test1.pyimport
pytest
浏览 5
提问于2021-12-29
得票数 1
3
回答
高效地为Google
BigQuery
编写Pandas数据
、
、
、
、
我正试图使用pandas.
DataFrame
函数文档化
的
pandas.
DataFrame
.to_gbq()将一个上传到Google。
问题
是,to_gbq()只需2.3分钟,而直接上传到Google只需不到一分钟。我计划上传一堆数据(~32),每个数据集
的
大小相似,所以我想知道更快
的
选择是什么。这是我正在使用
的
脚本: &
浏览 1
提问于2018-02-20
得票数 37
回答已采纳
1
回答
如何将包含列表
的
熊猫数据帧上传到Google
BigQuery
数组和结构格式?
、
、
、
、
我想使用pandas将数据帧推送到包含数组和结构
的
BigQuery
表中我有一个数据帧,看起来像这样: col_a (类型为整型)、col_b (字符串)、col_c(对象列表)、col_d(整型)。有没有办法将pandas数据帧上传到具有结构和数组
的
bigquery
表?
浏览 2
提问于2019-11-07
得票数 2
2
回答
根据熊猫数据创建一个
BigQuery
表,而不显式地指定模式
、
、
我有一只熊猫数据,我想从它创建一个
BigQuery
表。我知道有很多帖子询问这个
问题
,但到目前为止,我能找到
的
所有答案都需要明确地指定每一列
的
模式。), ]但是,有时我有许多列(例
浏览 3
提问于2020-07-31
得票数 9
回答已采纳
9
回答
将Pandas
DataFrame
写到或
BigQuery
、
、
、
你好,谢谢您
的
时间和关心。我正在Google平台/ Datalab中开发一个木星笔记本。我已经创建了一个Pandas
DataFrame
,并且希望将这个
DataFrame
写到(GCS)和/或
BigQuery
中。bucket_path = bucket_name bucket.exists() 我尝试过基于Google文档
的
各种方法
浏览 14
提问于2016-03-30
得票数 47
回答已采纳
1
回答
如何将pyarrow.Table格式
的
数据大容量加载到
BigQuery
中?
、
根据
BigQuery
的
python文档(Version3.3.2),有一个用于insert_rows_from_
dataframe
(
dataframe
: pandas.
DataFrame
)
的
方法,但是insert_rows_from_
dataframe
( google.cloud.
bigquery
.table.Table, google.cloud.
bigquery
浏览 12
提问于2022-09-19
得票数 0
1
回答
使用python查询比特币
bigquery
中
的
错误请求400
、
我想访问比特币
bigquery
数据集并以格式将其转换为
dataframe
。timestamp, transaction_id, input_addrfrom google.cloud import
bigquery
client =
bigquery
.Client() transaction_id, timestamp()
浏览 9
提问于2020-05-07
得票数 0
回答已采纳
1
回答
从python上载到
BigQuery
时,某些行出现ASCII0错误
、
、
我正在做一个从API到Google
BigQuery
环境
的
ETL。在尝试使用pandas_gbq.to_gbq()将熊猫数据帧上传到
bigquery
时,我遇到了这个错误: google.api_core.exceptions.BadRequest: 400 Error在检查了我收到此错误
的
行之后,我找不到ASCII符号。我只在
Dataframe
中
的
几行中得到了这个错误,所有其他行都可以上载而不会出错。这让我认为这不是格式化错误,而是数据帧其中一个字段中
的
非法符号。 我已
浏览 31
提问于2021-10-11
得票数 3
2
回答
apache方法“ReadFromBigQuery”生成TypeError: isinstance() arg 2必须是类型或类型
的
元组
、
我正在尝试从GC读取一个csv文件,但是read方法正在生成一个'typeError',下面是我正在使用
的
代码片段:from apache_beam.
dataframe
.convertimport to_
dataframe
print(row) | "rea
浏览 6
提问于2022-09-09
得票数 0
1
回答
关于insert_rows_from_
dataframe
使用大查询
的
问题
、
、
我想在GCP中
的
表中插入一个
dataframe
,比如表
的
名称是table_id。我想使用以下方法 insert_rows_from_
dataframe
(table: Union[google.cloud.
bigquery
.table.Table, google.cloud.
bigquery
.table.TableReference, str],
dataframe
, selected_fields: Optional[Sequence[google.cloud.
浏览 4
提问于2021-09-13
得票数 0
2
回答
如何使用python自动更新google大查询中
的
数据?
、
、
我
的
舞台: 使用python (IDE:Spyder)Pull数据连接到MySql数据库,使用python将dataframeConnect转换为Google,使用python将数据写入GoogleBigQuery因此,当我想更新数据时,我删除google大查询中
的
表,然后再次运行python代码。现在我想自动更新数据。使用python可以做到这一点吗?
浏览 16
提问于2021-07-01
得票数 0
3
回答
使用
BigQuery
和R分析数据
、
、
我计划使用谷歌
BigQuery
(请随时建议非亚马逊非Azure服务,包括谷歌)来做以下事情- a)分析使用R专门用于数据挖掘,仪表板和文本挖掘。 R和Google平台都是固定给定
的
。我
的
问题
是如何以及在哪里找到如何在Google Big Query中使用R。我阅读了RCurl文档,但感到有点困惑。你有没有一个简单
的
用例,可以用R和谷歌
BigQuery
来完成。
浏览 1
提问于2012-06-11
得票数 8
回答已采纳
点击加载更多
热门
标签
更多标签
云服务器
ICP备案
云点播
对象存储
即时通信 IM
活动推荐
运营活动
广告
关闭
领券