前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >企业级分布式 HTAP 数据库管理系统,腾讯 TBase 正式开源

企业级分布式 HTAP 数据库管理系统,腾讯 TBase 正式开源

作者头像
腾讯开源
发布2019-11-08 14:40:34
2.1K0
发布2019-11-08 14:40:34
举报
文章被收录于专栏:腾讯开源的专栏

TBase简介

TBase是腾讯数据平台团队在开源的PostgreSQL基础上研发的企业级分布式HTAP数据库管理系统:

  • 具备高性能可扩展的分布式事务能力,支持RC和RR两种隔离级别;
  • 通过安全、管理、审计三权分立体系,提供全方位的数据安全保证机制;
  • 支持高性能分区表,可使得数据检索效率成倍提升;
  • SQL方面兼容2003标准、PostgreSQL语法和常用Oracle函数&数据类型、窗口函数等;
  • 提供大小商户数据分离、冷热数据分离等高效的数据治理能力。

TBase架构

集群中有三种节点类型,各自承担不同的功能,通过网络连接成为一个系统。这三种节点类型分别是:

  • Coordinator:协调节点,对外提供接口,负责数据的分发和查询规划,多个节点位置对等,每个节点都提供相同的数据库视图,CN存储系统的全局元数据。
  • Datanode:处理存储本节点相关的元数据,每个节点还存储数据的一个分片。在功能上,DN节点负责完成执行协调节点分发的执行请求。
  • GTM: 全局事务管理器(Global transaction manager.),负责管理集群事务信息,同时管理集群的全局对象,比如序列,除此之外GTM上不提供其他的功能。

TBase适用场景

  • 在国产化落地、业务核心领域去O场景;
  • 对HTAP混合事务分析应用模型有需要的业务场景;
  • 对物联网地理信息系统有需求的业务场景;
  • 对实时高并发环境下的分布式事务强一致性有要求的业务(如金融、证券等业务)场景;
  • 对企业级数据安全、审计、治理应用相关功能有需求的业务场景;
  • 对高可用、异地容灾、7*24小时服务能力有需求的业务场景;
  • 有海量存储计算需求、弹性扩容、在线扩容需求的业务场景;
  • 对异构数据互通共享有需求的业务场景。

TBase功能介绍

  • 分布式事务全局一致性能力:通过拥有自主专利的分布式事务一致性技术,包括两阶段提交(Two Phase Commit)以及全局时钟(Global Timestamp)的策略来保证在全分布式环境下的事务一致性。
  • SQL兼容能力:SQL2003标准、PostgreSQL语法、常用Oracle函数&数据类型、UDF/UDAF、常见窗口函数、JSON/JSONB/XML/数组等多种 NoSQL 类型 、递归WITH、无锁DDL操作、扩展插件等。
  • HTAP能力:提供 OLTP 以及 OLAP 两个平面视角 ,OLTP 业务运行在 datanode 主节点上,OLAP 业务运行在 datanode 节点的备节点上,二者的数据同步采用流复制的方式来进行。
  • 读写分离能力:提供了读写和只读两个平面视角,读写流量请求由主节点来处理,只读流量请求由备节点来处理,主备节点的数据同步采用流复制的方式来进行。
  • 卓越的数据安全保障能力:通过三权分立的体系,将传统数据库系统DBA的角色分解为三个相互独立的角色:安全管理员、审计管理员、数据管理员;基于此提出安全策略,主要细分为三个部分:数据加密、数据脱敏访问、强制访问控制,三者组合提供多个层级的数据安全保障能力。
  • 高效的数据治理能力:数据倾斜治理,用以解决数据分布不均带来的存储以及性能压力;冷热数据分级存储 ,用以降低业务的存储成本、提升热数据的性能。
  • 多核并行计算能力:节点内部采用了并行计算,根据表大小同时启动多个进程来协同完成一个查询。
  • 多租户能力:基于节点组node group的集群内多租户解决方案,做到数据库集群内部的业务和资源隔离,多个业务在TBase内部相互隔离的运行。
  • 多级容灾能力:采用强同步复制来保证主从数据完全一致,保障主节点故障时数据无丢失;提供基于任意时间点的恢复特性来防止误操作带来的数据丢失。
  • 在线扩容能力:通过引入shard map层(shard map 中每一项存储 shardid 和 DN 的 映射关系 ), 在新加节点时,只需要把一些 shard map 中的 shardid 映射到新加的节点,并把对应的数据搬迁过去就可以了,大大缩短扩容时间。
  • 丰富的周边生态能力:PostGIS、异构数据复制、LVS负载均衡、FDW联邦能力等。

TBase项目规划

  • 加强TBase的HTAP能力,支持多种存储格式;
  • 异构数据互通功能丰富,添加数据更新订阅发布功能;
  • 完善周边生态,丰富数据库联邦数据源;
  • 运维管理能力全面提升,PASS能力持续增强。

TBase真情期待开源贡献

TBase目前已在腾讯内外部包括银行、保险、证券、微信支付等多个行业提供底层数据库支撑。我们期望通过将TBase开源,能够有助于业界其他相关领域的应用,也希望更好的完善产品本身,TBase期待大家共同完善!

TBase 正式开源

Github 开源地址:

http://github.com/Tencent/TBase

(点击文末阅读原文直接访问)

请给 TBase 一个 Star !

欢迎提出你的 issue 和 PR!

TBase 国内镜像地址:

http://git.code.tencent.com/Tencent_OpenSource/TBase

(登录后才能访问公开项目)

腾讯工蜂源码系统为开源开发者提供完整、最新的腾讯开源项目国内镜像

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2019-11-07,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 腾讯开源 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
数据库
云数据库为企业提供了完善的关系型数据库、非关系型数据库、分析型数据库和数据库生态工具。您可以通过产品选择和组合搭建,轻松实现高可靠、高可用性、高性能等数据库需求。云数据库服务也可大幅减少您的运维工作量,更专注于业务发展,让企业一站式享受数据上云及分布式架构的技术红利!
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档