概述
DataBuddy 数据接入持续扩展所支持的数据源类型,覆盖关系型数据库 、大数据存储 、半结构化数据 、NoSQL 数据库 、消息队列 等类别。本文按类别列出当前支持的数据源以及在不同接入链路(离线同步、实时整库同步、分库分表同步)中的读取能力支持情况。
读取能力图例
标记 | 含义 |
✓ | 支持 |
- | 当前不支持 |
实时同步链路对来源端版本通常有更严格的要求,详细版本支持范围以「支持版本」列为准。
关系型数据库
数据源 | 离线读 | 实时整库读 | 分库分表读 | 支持版本 |
MySQL | ✓ | ✓ | ✓ | 5.6 / 5.7 / 8.0.x |
腾讯云 MySQL | ✓ | ✓ | ✓ | 同 MySQL |
TDSQL-C MySQL | ✓ | ✓ | ✓ | 5.7 / 8.0 |
TDSQL MySQL | ✓ | ✓ | - | InnoDB 类型 |
PostgreSQL | ✓ | ✓ | ✓ | 9.6 / 10 / 11 / 12 |
SQL Server | ✓ | ✓ | ✓ | 2008 / 2008R2 / 2012 / 2014 / 2016 / 2017 / 2019 |
Oracle | ✓ | ✓ | ✓ | 11 / 12 / 19 |
OceanBase | ✓ | ✓ | - | 3.1.4 / 4.2.1.3 |
IBM DB2 | ✓ | - | - | — |
达梦 DM | ✓ | - | - | 7 / 8 |
GBase | ✓ | - | - | — |
GaussDB | ✓ | - | - | — |
Greenplum | ✓ | - | - | 4.x / 5.x / 6.x |
TiDB | ✓ | - | - | — |
大数据存储
数据源 | 离线读 | 实时整库读 | 分库分表读 | 支持版本 |
Hive | ✓ | - | - | 1.x / 2.x / 3.x |
HDFS | ✓ | - | - | 2.x / 3.x |
HBase | ✓ | - | - | 2.2.x |
TCHouse-D | ✓ | - | - | — |
TCHouse-C | ✓ | - | - | — |
TCHouse-X | ✓ | - | - | — |
TCHouse-P | ✓ | - | - | — |
Doris | ✓ | - | - | 0.15 / 1.x |
Iceberg | ✓ | - | - | 0.13.1+ |
StarRocks | ✓ | - | - | — |
ClickHouse | ✓ | - | - | 20.7+ |
Kudu | ✓ | - | - | — |
Hudi | ✓ | - | - | — |
TDengine | ✓ | - | - | — |
BigQuery | ✓ | - | - | — |
半结构化数据
半结构化数据源主要承担非结构化文件接入与离线读取场景。结合 文件到表 与目标端为 Volume 的同步任务,可以实现「原样归档」「解析入表」「格式转换」等多种用法。
数据源 | 离线读 | 实时读 | 说明 |
COS | ✓ | - | 腾讯云对象存储;支持作为离线同步源端,也作为「COS 文件到表」入口 |
Amazon S3 | ✓ | - | 海外对象存储;支持文件路径正则匹配与全量 / 增量同步 |
Azure Blob | ✓ | - | 通过容器路径访问 |
FTP | ✓ | - | 仅离线同步链路 |
SFTP | ✓ | - | 支持密码与 SSH 私钥认证 |
File System | ✓ | - | 自有文件系统 |
Rest API | ✓ | - | 支持 GET / POST、Header、单次 / 多次请求;支持单条 JSON 与数组 JSON |
NoSQL 数据库
数据源 | 离线读 | 实时整库读 | 支持版本 |
MongoDB | ✓ | ✓ | 4.x |
腾讯云 MongoDB | ✓ | ✓ | 同 MongoDB |
Elasticsearch | ✓ | - | 6.x / 7.x |
腾讯云 Elasticsearch | ✓ | - | 同 Elasticsearch |
CTSDB / InfluxDB | ✓ | - | — |
消息队列
数据源 | 离线读 | 实时整库读 | 支持版本 |
Kafka | ✓ | ✓ | 2.4.1 / 2.7.1 / 2.8.1 / 2.8.2 |
CKafka | ✓ | ✓ | 同 Kafka |