首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >每天将数据从大查询加载到Postgre云sql数据库

每天将数据从大查询加载到Postgre云sql数据库
EN

Stack Overflow用户
提问于 2021-06-09 04:06:53
回答 1查看 691关注 0票数 1

我有一些表要从大查询加载到数据库。我需要每天都这样做,并在云sql中创建一些存储过程。每天从大型查询加载表到云sql的最佳方法是什么?传输数据和将云sql保持在24/7上的成本意味着什么?感谢你的帮助。

谢谢你,J。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2021-06-10 07:38:47

通常情况下,Cloud数据库可以随时为请求服务。它不是一个可以在请求出现时启动的无服务器产品。您可以查看定价页面来计算成本(主要是: CPU、内存和存储。根据您的使用和预期性能大小数据库)

关于这个过程,我们在我以前的公司做过:

  • 使用云调度程序触发云函数
    • 在BigQuery中创建临时表
    • 云存储中将BigQuery临时表导出到CSV

  • 在临时表中运行云SQL从GCS导入文件
  • 在数据库中运行一个请求,将导入的数据合并到现有的数据,并删除导入的数据表。

如果只在一个函数中执行该操作需要花费太多的时间,则可以使用Cloud (60分钟的超时时间)或调度函数。这个函数由调用,并将在PubSUb中为每个表发布一条消息以供处理。在PubSub上,您可以插入一个只在消息中提到的表上执行前面过程的云函数(或云运行)。这样,您就可以同时处理所有表,而不是按顺序处理。

关于成本,你将支付

  • BigQuery查询(为创建临时表而处理的数据量)
  • BigQuery存储(非常低,您可以创建临时表,该表在1h后过期(自动删除))
  • 云存储(非常低,您可以在文件上设置一个生命周期,以便在几天后删除它们)
  • 文件传输:如果您停留在同一区域,则免费。
  • 进出口:免费

总之,只有BigQuery查询和Cloud实例是主要成本。

票数 2
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/67897451

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档