目前,我正在建立一个用Apache测试CDC (Change Data Capture)的环境,以便将数据库表从两个数据库复制到一个数据库。CDC事件被捕获并发送到Google /Sub主题,但我不知道如何将这些消息传播到目标数据库。我最终试图在拼图中找到缺失的部分,在下面的图片中突出显示为问号。如何将Google /Sub主题消息连接到目标数据库(DB C)?
DB和DB都是PostgreSQL数据库实例,而DB的数据库系统尚未确定。
我的Pub/Sub主题中的每一条消息都包含一个Debezium CDC事件。
此外,如果可能的话,我计划继续使用Google /Sub作为消息代理。
发布于 2022-06-14 15:40:17
debezium的思想是在静止时获取数据(DB A和DB B)并使其运动。它使用更改数据捕获。一旦选择了目标消息传递系统Kafka / Kinesis / Event Hub / Pub Sub,数据就会发送到此消息传递系统的一组主题中。
在这个消息传递系统中,必须有一些应用程序来读取这些数据并将数据放到Sink (DB)中。这可能是任何能够从消息传递应用程序中读取并连接到DB的应用程序。现代实时系统能够做到这一点。云提供商也给出了选择。这些例子包括系统,如Storm、Spark、Flink等,这些系统可以消耗掉这些主题,然后持久化数据。因为它是Google pub-sub,所以可能也有一些本地阅读的选项。
https://stackoverflow.com/questions/72614792
复制相似问题