我刚刚了解了GCP作曲家,并试图将DAG从我当地的气流实例转移到云端,并有几个关于转换的问题。
HiveOperator
从hive读取数据,并创建表并将其写回hive中。如果我必须在GCP中这样做,这怎么可能呢?我是否必须将我的数据上传到Google,HiveOperator是否在GCP中工作?sensor
来检查另一个DAG是否完成,这在Composer上是可能的吗?发布于 2018-11-30 21:08:43
是的,Composer只是管理Apache气流,所以您可以这样做。
确保您使用与本地使用的相同版本的气流。云编写器目前支持气流1.9.0和1.10.0。
发布于 2018-12-07 15:37:25
作曲家有连接存储。请参阅菜单管理->连接。检查可用的连接类型。
传感器是可用的。
https://stackoverflow.com/questions/53560978
复制相似问题