腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(9999+)
视频
沙龙
1
回答
雪花/S3管道: ETL体系结构问题
、
、
、
我是数据工程
的
新手,所以我想从社区中了解推荐
的
路径是什么。管道要求如下: 我想安排一个月
的
工作。我是在AWS中还是在雪花边指定这样
的
?每月拉动应该得到最后一个完整
的
月份(因为这应该是一个月
的
管道)。所有每月数据拉出应该存储在自己
的
S3子文件夹,如这个query_01012020,query_01022020,query_01032020等。从S3 (query_01012020,query_01022020,query_01032020)返回到指定
的
雪
浏览 0
提问于2020-06-14
得票数 0
1
回答
用于连续摄取不定期到达
的
每日文件
的
雪
管
我们需要将这些文件加载到暂存表中,然后加载到DW表中,并在雪
花中
应用数据转换。我们正在考虑使用
雪
管将数据从S3加载到暂存表,因为来自ERP
的
文件到达是没有计划
的
,并且可以在4个小时
的
窗口内随时到达。每天
的
文件都有时间戳,每天都会有完整
的
数据。因此,在摄入当天
的
文件之前,我们需要每天截断暂存表。请分享你对此
的
想法。我们应该继续考虑
雪
管吗?还是尝试使用“复
浏览 2
提问于2022-02-02
得票数 1
1
回答
Infastructure & s3子文件夹
我正在尝试建立可伸缩
的
雪
管基础设施。我有一个AWS函数,它可以拖动数据并将原始
的
json文件放入它们下面的对应文件夹中。生活在leads文件夹中
的
leads json文件现在被管道传输到雪
花中
的
leads_json表中。生活在机会文件夹中
的
机会json文件现在被管道传输到雪
花中
的
opportunitie
浏览 0
提问于2020-01-29
得票数 1
回答已采纳
1
回答
在雪
花中
管道能被悬挂并恢复吗?对或错
、
我很困惑,因为雪花文件说,
雪
管可以暂停和恢复。所以我应该把它当作真的..。谁能帮我得出结论,比如暂停和暂停,他们在雪
花中
是相似的,还是不同
的
?
浏览 5
提问于2021-10-01
得票数 1
回答已采纳
1
回答
雪
花中
的
任务
-
多个
SQL
、
、
一个
任务
可以在单个事务中同时执行
多个
SQL
吗?我知道存储过程是这样做
的
,但我想看看我们是否可以在
任务
中启动事务并执行
多个
SQL
浏览 15
提问于2020-10-22
得票数 0
回答已采纳
1
回答
雪花更新重复记录
、
我在雪
花中
放置表,在那里我使用
雪
管从AWS S3复制数据。其中一些记录是一种创建事件和
多个
更新
的
类型。对于同一事件,将有一个创建和
多个
更新事件
的
时间顺序。我想将这些记录移到另一个表中(所以create事件应该将一个记录插入到一个表中,
多个
更新事件应该相应地更新这些记录。)我试图使用“合并”概念雪花,但是它不适合我
的
用例,就好像我
的
目标表没有记录一样,它为每个创建和更新创建一个新记录。
浏览 0
提问于2019-12-16
得票数 0
1
回答
如何在雪
花中
自动化
sql
脚本
、
、
我有一个
SQL
脚本来转换雪
花中
各种表
的
数据。我需要每天运行这段
SQL
代码,并希望以某种方式实现它
的
自动化。我以为我可以用雪
花中
的
“
任务
”来自动化
SQL
,但是“
任务
”不能运行一个以上
的
SQL
语句,而且我
的
代码包含了大量
的
SQL
语句。有人有什么想法吗?任何帮助都是非常感谢
的
。
浏览 10
提问于2021-02-22
得票数 1
回答已采纳
1
回答
如何以编程方式完成管道作业?
、
、
相反,在使用斯诺管道时,我想通过编程方式构建
雪
管。我需要检查S3桶上一次编辑
的
时间,然后将它加载到暂存雪
花中
吗?于
浏览 2
提问于2022-01-12
得票数 0
4
回答
雪花SnowPark Python -Clarifications
、
、
关于Python中
的
SnowPark有几个问题。 既然我们已经有了雪花蟒蛇连接器(免费),可以用雪花DW连接到python jupyter,为什么我们需要斯诺帕克呢?它是使用我们
的
本地机器计算能力还是雪花计算能力?如果它是我们
的
本地机器计算能力,我们如何使用雪花计算能力来运行ml模型?
浏览 9
提问于2022-06-25
得票数 0
回答已采纳
2
回答
从SnowFlake上
的
配置文件中读取参数(不是通过SnowSQL )
、
我能够从SnowFlake上
的
本地配置文件中读取参数(使用SnowSQL )。但是在生产环境中,
SQL
将以自动化
的
方式运行(使用SnowFlake
任务
)。我在雪
花中
创建了一个
任务
,它调用一个存储过程。存储过程只需要从配置文件中读取几个参数。这样,相同
的
存储过程就可以用于
多个
类似的用例。虽然上面写着“注意
任务
不支持帐户或用户参数”,但。
浏览 5
提问于2020-01-29
得票数 1
回答已采纳
2
回答
雪花存储过程-输入参数“未定义”
我试图在雪
花中
创建一个存储过程,用于生成
雪
管道,我有所需
的
sql
,我现在遇到
的
问题是在一个我们可以调用和传递值(如db名称和表名)
的
过程中封装这个
sql
。当我试图将这些值传递到过程中时,我会得到一个错误:"Uncaught : db_name不是在EXECUTE_
SQL
_COMMAND中定义
的
“create or replace procedureexecute_
sql
_command(db_na
浏览 7
提问于2022-09-23
得票数 0
回答已采纳
1
回答
有没有从Azure Blob Storage到Snowflake EDW
的
简单ETL方法?
、
、
、
、
由于时间和技术
的
限制,我对Snowflake on Azure有以下ETL要求,并希望实现最简单
的
解决方案。在Snowflake本身中转换上面加载
的
数据,其中转换仅限于几个连接和聚合,以获得一些度量。最后,将这些数据放入同一个Snowflake DB中
的
Datamart中
的
最终表中。最后,使用调度或使用基于事件
的
触发器(即,在文件到达Blob Store时立即启动
的
步骤)自动执行上述流水线。 约束条件: 我们不能使用Azure数据工厂来实现这个最简单
的
浏览 23
提问于2020-12-08
得票数 0
2
回答
将许多小文件装入雪
花中
我已经设置了一个桶,其中包含了许多小型XML文件,以便用
雪
斗加载到雪
花中
。但是,我有大约500万个小文件(每行一个文件),需要加载到雪
花中
。我有一个清单,这些文件需要加载到雪花。我意识到这不是一个最理想
的
情况,但是,如果有什么我可以让这个更好
的
呢?从计费
的
角度来看,运行500万拷贝命令意味着什么?我能做些什么来降低这里
的
成本?也许把XML预处理成一个文件?从节省
的
角度来说,值得吗?
浏览 1
提问于2020-06-18
得票数 1
回答已采纳
1
回答
列出从WH信用配额消耗高学分
的
所有
任务
。
我很弱
的
雪
sql
,我想列出所有的
任务
,造成高信用使用从WH,信用配额从雪花WH。准备雪地有什么帮助吗?
浏览 10
提问于2022-04-03
得票数 0
回答已采纳
1
回答
如何使用动态DDL语句在雪
花中
创建
SQL
语言匿名块
、
我在我们
的
雪花数据库中有20
多个
任务
,它们
的
名称都以类似的模式以一个数字结尾(例如: TSK_x,其中x= 1,2,...,27)。我试图在雪
花中
编写一个过程或匿名块(不使用Javascript存储
的
proc)来生成降序
任务
号语句,并在过程中执行它们,如下所示:ALTER TASKALTER TASK TSK_1 RESUME;作为背景
浏览 3
提问于2022-06-14
得票数 0
2
回答
具有
多个
存储过程
的
任务
有没有办法在雪
花中
创建一个
任务
来调用
多个
存储过程? 例如,我有三个存储过程来检查
多个
表上
的
重复信息,我想通过
任务
调用这三个过程,而不必创建一个新
的
SP来遍历它们。
浏览 0
提问于2021-03-08
得票数 2
回答已采纳
2
回答
在雪
花中
调度副本命令
的
最佳方法
我把数据放进了蓝色水珠
的
仓库里。根据雪花文档,我很困惑,是否应该使用下面的
sql
查询来创建雪花
的
任务
特性:还是我应该用
雪
管
浏览 0
提问于2021-11-28
得票数 1
回答已采纳
1
回答
如何从Mysql数据库获取数据到雪花
、
有什么聪明
的
方法可以让我
的
数据从mysql数据库变成雪花呢?到目前为止,我发现了两种可能
的
方法:对我来说,首先将每个表转换为csv似乎很奇怪。我不能直接将
sql
转储文件推送到雪
花中
吗?我还可以在雪
花中
安排一些重新加载
任务
,这样就可以自动触发option1或2吗? 最佳NicBeC24
浏览 3
提问于2020-10-19
得票数 4
2
回答
使用雪花JDBC驱动程序自定义到雪花
的
速度非常慢
、
、
我使用Spring数据流创建一个自定义流,将数据加载到雪
花中
。我编写了一个自定义接收器,使用雪花
的
JDBC驱动程序将数据加载到雪
花中
。我使用
的
方法类似于使用以下步骤
的
任何数据库更新:这时,我注意到雪
花中
的
批处理更新得非常慢--即一次更新一两条记录,在雪花表(使用XS仓库)中更新一批
浏览 7
提问于2020-10-23
得票数 0
1
回答
物化视图在雪
花中
作为无效
的
物化视图定义出现
、
SQL
编译错误:错误行0在位置-1无效
的
物化视图定义。视图定义中引用
的
多个
表 BEGIN END test_sp_orcl; 我们使用
多个
表在但是同样
的
方法在雪
花中</em
浏览 8
提问于2022-09-09
得票数 0
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
24个用于数据分析任务的常用SQL函数
使用Cron表达式调度多个任务的实现方法
Windows 11 Build 25217预览 修复平板任务栏相关的多个问题
AAAI 2023|基于T5的两阶段的多任务Text-to-SQL预训练模型MIGA
濉溪直播|来看!满屏都是濉溪雪景!
热门
标签
更多标签
云服务器
ICP备案
对象存储
腾讯会议
云直播
活动推荐
运营活动
广告
关闭
领券