首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

腾讯开源万亿分布消息中间件 TubeMQ

beMQ 是腾讯在 2013 年自研的分布消息中间件系统,专注服务大数据场景下海量数据的高性能存储和传输,经过近 7 年上万亿的海量数据沉淀,目前日均接入量超过 25 万亿条。...9 月 12 日,腾讯在 ApacheCon 宣布 TubeMQ 开源。...变更及查询实现了完整的自动化闭环管理,减轻了系统维护的复杂度; 服务器侧消费负载均衡 Tube MQ 采用的是服务侧负载均衡的方案,而不是客户端侧操作,提升系统的管控能力同时简化客户端实现,更便于均衡算法升级; 系统行锁操作...对于 Broker 消息读写中存在中间状态的并发操作采用行锁,避免重复问题; Offset 管理调整 Offset 由各个 Broker 独自管理,ZK 只作数据持久化存储用(最初考虑完全去掉 ZK...依赖,考虑到后续的功能扩展就暂时保留); 消息读取机制的改进 Tube MQ 采用的是消息随机读取模式, 同时为了降低消息时延又增加了内存缓存读写, 对于带 SSD 设备的机器, 增加消息滞后转 SSD

1.5K60

腾讯万亿分布消息中间件TubeMQ正式开源

TubeMQ是腾讯在2013年自研的分布消息中间件系统,专注服务大数据场景下海量数据的高性能存储和传输,经过近7年上万亿的海量数据沉淀,目前日均接入量超过25万亿条。...系统行锁操作 对于Broker消息读写中存在中间状态的并发操作采用行锁,避免重复问题; 5. ...消息读取机制的改进 Tube MQ采用的是消息随机读取模式,同时为了降低消息时延又增加了内存缓存读写,对于带SSD设备的机器,增加消息滞后转SSD消费的处理,解决消费严重滞后时吞吐量下降以及SSD磁盘容量小...系统安全管控 根据业务不同的数据服务需要,以及系统运维安全的考虑,Tube MQ系统增加了TLS传输层加密管道,生产和消费服务的认证、授权,以及针对分布式访问控制的访问令牌管理,满足业务和系统运维在系统安全方面的需求...、最新的腾讯开源项目国内镜像 ?

1.2K72
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    基于Raft深度优化,腾讯金融消息队列CMQ高可靠算法详解

    一个分布式系统最多只能满足其中2个要素。对于分布式系统而言,P显然是必不可少的,那么只能在AP和CP之间权衡。...在我们关注的消息中间件领域,金融支付类业务往往对数据的强一致性和高可靠性有严格要求。...在对主流的消息中间件进行调研后,发现它们在应对这种场景时都存在一定的不足: RabbitMQ:一个请求需要在所有节点上处理2次才能保证一致性,性能不高。...鉴于以上分析,我们设计开发了基于Raft的强一致高可靠消息中间件CMQ。接下来会介绍raft算法原理细节、如何应用在CMQ中在保证消息可靠不丢失,以及实现过程中在性能方面所作的优化。...四 总结 Raft算法具备强一致、高可靠、高可用等优点, 消息中间件通常分为高可靠版本和高性能版本两种。腾讯CMQ是一款金融的高可靠分布消息中间件,通过raft保证了消息的可靠不丢失。

    4.4K70

    腾讯自研万亿消息中间件TubeMQ为什么要捐赠给Apache?

    导语 | 近日,腾讯开发者社区技术沙龙“腾讯开源技术”圆满落幕。...本次沙龙邀请了多位腾讯技术专家围绕腾讯开源与各位开发者进行探讨,深度揭秘了腾讯开源项目TencentOS tiny、TubeMQ、Kona JDK、TARS以及MedicalNet。...TubeMQ属于万亿分布消息中间件,专注于海量数据下的数据传输和存储,在性能、可靠性,和成本方面具有独特的优势。...结果是:我们的吞吐量达到了14万的TPS,消息时延可以做到5ms以内。 可能有些人会感到好奇,因为有很多研究报告都分析过,同样的分布式发布订阅消息系统,例如Kafka这种,都能达到上百万的TPS。...对于Kafka,它或许可以达到百万的TPS,或许时延可以降到很低,但在我们的大数据的场景下,就远远到不了这个量级。

    1.3K50

    腾讯分布式高可靠消息队列 CMQ 架构

    作者:张浩 在分布式大行其道的今天,我们在系统内部、平台之间广泛运用消息中间件进行数据交换及解耦。...CMQ是腾讯内部自研基于的高可靠、强一致、可扩展分布消息队列,在腾讯内部包括微信手机QQ业务红包、腾讯话费充值、广告订单等都有广泛使用。...目前已上线腾讯对外开放,本文对腾讯CMQ 核心技术原理进行分享介绍。 CMQ消息队列主要适用于金融、交易、订单等对可靠性、可用性有较高要求的业务场景。...架构如图1: [image.jpg] 图1-某充值系统结构 图中腾讯消息队列CMQ整体结构如图2所示,本文重点介绍后端broker set实现原理。...对于更侧重高性能、高吞吐量业务需求,腾讯由另外一个消息引擎来提供服务,在协议上同时兼容kafka,很好的满足了大数据场景,具体原理请留意后续文章介绍。

    31.4K11089

    腾讯携手神州信息发布“金融分布式核心”联合方案

    6月24日,基于国内银行对以为承载的全栈国产化IT系统的需求,腾讯携手神州信息正式推出了“金融分布式核心”联合解决方案。...其中,腾讯企业分布式数据库TDSQL已服务近半国内TOP20银行,TOP10银行中服务比例更是高达60%。...整体解决方案 “金融分布式核心”联合方案整体基于安全可控计算网络基础平台,结合腾讯与神州信息在金融领域各自优势,联合金融分布式数据库TDSQL及神州信息Sm@rtEnsemble分布式核心业务系统,...符合金融科技场景的+数据库融合能力 “金融分布式核心”联合解决方案是由腾讯专有提供全面的基础设施服务的金融解决方案,具备弹性计算服务、虚拟化、容器化部署及动态扩容能力,包含自动化部署、系统监控、...依托腾讯金融分布式数据库TDSQL作为此次解决方案的核心系统承载,凭借“强一致”、“高性能”、“高可用”、“高兼容”、“高透明”、“平滑扩容”等优势,面向金融行业分布式架构提供了跨区容灾、多地多中心

    81410

    鹅厂中间件产品遭遇暴风吐槽

    为了更好地服务使用微服务架构进行软件设计的企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》的编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善的分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用,但是用户在使用的过程中,到底是什么感受呢?

    90620

    腾讯中间件产品面对疾风吧——TVP吐槽大会第4期

    KV.jpg 为了更好地服务使用微服务架构进行软件设计的企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的原生分布式微服务解决方案和消息队列服务...全方位打造出6款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》的编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善的分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用,但是用户在使用的过程中,到底是什么感受呢?

    89940

    2023腾讯全球数字生态大会微服务与消息队列专场来啦

    导语 腾讯数字生态大会亮点纷呈,定档9月7-8日,腾讯微服务与消息队列专场将为大家带来一场与中间件有关的视觉盛宴!...作为腾讯分布消息中间件,TDMQ RocketMQ版具备低延迟、高性能、高可靠、万亿消息容量和灵活可扩展等特点。...嘉宾介绍:纪宇鹏,腾讯分布消息队列 TDMQ 产品经理,拥有多年计算产品设计经验,主导并参与多款消息队列产品的设计和商业化工作,帮助企业客户在分布式架构下更好地利用消息队列满足业务需求,致力于将开源技术红利和架构优势应用到商业化产品中...嘉宾介绍:汪彬彬,腾讯高级解决方案架构师,10年+IT从业经验,曾在传统软件公司、金融机构、互联网金融公司等企业工作。...目前在腾讯中间件中心,专注于消息中间件原生网关、微服务等在客户IT系统中的解决方案落地和技术支持。

    59120

    鹅厂中间件产品遭遇暴风吐槽!

    为了更好地服务使用微服务架构进行软件设计的企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列 CKafka、金融消息队列 TDMQ、微服务观测平台 TSW、弹性微服务 TEM、微服务引擎 TSE、分布式事务 DTF,全面布局原生领域产品矩阵...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》的编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善的分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用,但是用户在使用的过程中,到底是什么感受呢?

    77520

    腾讯中间件产品面对疾风吧——TVP吐槽大会第4期

    KV.jpg 为了更好地服务使用微服务架构进行软件设计的企业,腾讯中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的原生分布式微服务解决方案和消息队列服务...全方位打造出6款优秀产品:微服务平台 TSF、消息队列CKafka、金融消息队列TDMQ、微服务观测平台 TSW、微服务引擎TSE、分布式事务DTF,全面布局原生领域产品矩阵。...另外,腾讯还始终积极对外贡献技术力量,参与了《中间件技术和产业白皮书》的编写,以及《工业互联网平台微服务》国家标准和《消息中间件技术标准》的讨论与制定。...在原生2.0时代,腾讯致力于为企业提供更加完善的分布式架构解决方案,帮助企业加速数字化建设,快速实现架构升级。...经过多年匠心打磨,腾讯中间件产品已在金融、政府、能源、制造业等行业得到了大规模的应用,但是用户在使用的过程中,到底是什么感受呢?

    1.1K91

    金融安全“零失分”,腾讯IT管理水平再获国际认可

    腾讯多项服务和新加坡站点以“0观察项”的优异成绩正式通过了OSPAR,这意味着腾讯的IT控制水平已经达到了国际先进水平,安全管理能力受到国际认可,并具备了在新加坡乃至东南亚地区提供金融领域服务的资质...最终,腾讯金融领域产品和服务的安全控制与合规能力经受住了国际权威机构的严格检验,以“0观察项”的优秀成绩顺利通过,达到了全球领先的水准,具备了在新加坡及东南亚地区开展金融领域服务的资质。...作为目前海外布局速度最快、分布区域最广的中国服务商之一,腾讯一直在强化自身的海外安全合规建设,为客户业务出海提供更好的服务。...一直以来,腾讯云安全合规团队都在致力于完善海外安全合规体系建设,自2016年至今,腾讯已先后通过可信数据安全认证、产品信息安全认证证书(SaaS增强)、CSA STAR以及ISO/IEC 27001...腾讯IT风险管理通过全球考验

    1.4K20

    千亿金融场景下,基于Pulsar的原生消息队列有怎样的表现?

    本文是对腾讯TEG技术委员会专家工程师刘德志老师在腾讯开发者社区沙龙 online 的分享整理,介绍基于 Apache Pulsar 的新一代存储计算分离设计的消息队列 TDMQ,希望与大家一同交流。...视频内容 一、金融级别原生消息队列功能需求 1....也包括 ToB 场景,比如广告主、网红主播、腾讯客户的扣款收费,都是通过腾讯计费这套平台提供的服务。...对于千亿规模的计费平台,消息队列需要具备哪些能力呢? 综上来看,首先需要具备金融可靠性和容灾的能力,可以通过多副本、多地域保证数据的可靠性。...Q&A Q:腾讯的所有产品计费是使用同一套工具吗? A:腾讯内部的计费,是统一使用 TDMQ 消息队列来完成相关所有的能力。

    6.6K12459

    千亿金融场景下,基于Pulsar的原生消息队列有怎样的表现?

    视频内容 01 金融级别原生消息队列功能需求 1....腾讯计费背景介绍 腾讯计费是孵化于支撑腾讯内部业务千亿营收的互联网计费平台,其核心是帮助用户与产品,安全、便捷的完成支付和收款,在交易过程中帮助产品盈收实现最大化。...也包括 ToB 场景,比如广告主、网红主播、腾讯客户的扣款收费,都是通过腾讯计费这套平台提供的服务。...对于千亿规模的计费平台,消息队列需要具备哪些能力呢? ? 综上来看,首先需要具备金融可靠性和容灾的能力,可以通过多副本、多地域保证数据的可靠性。...07 Q & A Q:腾讯的所有产品计费是使用同一套工具吗? A:腾讯内部的计费,是统一使用 TDMQ 消息队列来完成相关所有的能力。

    99820

    TVP专家谈鹅厂中间件:创新前行 遇见未来

    导语 | 3月21日,腾讯TVP团队倾力打造的「TVP吐槽大会」第四季——腾讯中间件专场落下帷幕,微服务和消息队列领域的资深TVP们在深度体验腾讯中间件产品之后,提出直击痛点建议的同时也充分肯定了腾讯中间件产品的实力与价值...为了倾听用户心声,腾讯中间件携微服务观测平台 TSW、消息队列CKafka两款产品,登上第三期「鹅厂中间件吐槽大会」的舞台,与8位顶专家现场过招,强强碰撞,直击产品问题,共同为产品指明全新方向,为产品与技术的完美融合续写全新未来...4-1.png 腾讯中间件产品矩阵 腾讯中间件产品基于腾讯在微服务、消息队列领域多年的技术积累,提供了功能强大、兼容并包、生态开放的原生分布式微服务解决方案和消息队列服务。...全方位打造出7款优秀产品:微服务平台 TSF、消息队列 CKafka、金融消息队列 TDMQ、微服务观测平台 TSW、弹性微服务TEM、微服务引擎 TSE、分布式事务 DTF,全面布局原生领域产品矩阵...在盛行 Serverless 的时代,我们近期也推出上首款 Serverless 化的金融消息队列 TDMQ(Tencent Distributed Message Queue,简称 TDMQ),其极好的原生和

    1K31

    腾讯 TSF 和 TDMQ 产品获评“2021-2022年度中国优秀创新软件”!

    基于深厚的自主技术研发实力和创新的产品功能,腾讯微服务平台TSF 和消息队列 TDMQ 产品获得与会专家的一致认可,入选“2021-2022年度中国优秀创新软件产品”,体现了腾讯中间件产品在基础软件和平台支撑软件细分领域的自主创新能力...TDMQ 产品介绍 腾讯分布消息队列软件(Tencent Distributed Message Queue,简称TDMQ)是一个原生消息队列中间件系列,为分布式应用系统提供异步解耦和削峰填谷的能力...腾讯分布消息队列TDMQ 公有企业用户数 2000+,在腾讯内部每日支撑了30亿+消息,私有交付实施项目包括90+大中型企业,广泛应用于金融、政府、医疗、泛互等行业和领域。...(干货分享之一)》 《腾讯消息队列产品3月产品动态》 《腾讯微服务产品3月产品动态》 《万字干货:Kafka 高可靠高性能原理探究》 《解决异构系统集成难题,富融银行这样做》 《Apache...Pulsar 技术系列 - Pulsar 总览》 《解决创新业务的三大架构难题,央广购物用对了这个关键策略》 《详解 Apache Pulsar 消息生命周期》 《基于腾讯微服务引擎(TSE) ,

    1.1K30

    腾讯消息队列 TDMQ Pulsar 版商业化首发|持续提供高性能、强一致的消息服务

    导语 2021年12月1日,腾讯分布消息队列 TDMQ Pulsar 版正式商业化。...金融分布消息中间件 消息队列 TDMQ Pulsar 版是一款基于 Apache Pulsar 自研的金融分布消息中间件,具备高一致、高可靠、高并发特性,可为分布式应用系统提供异步解耦和削峰填谷的能力...TDMQ Pulsar 版是一款经历了3年千亿交易流水考验的消息队列,也是目前真正做到计算与存储分离的消息队列,从架构上实现了原生无状态,更加迎合Serverless的趋势。...高性能低延迟 TDMQ Pulsar 版能够高效支持百万消息生产和消费以及海量消息堆积,支撑了腾讯计费所有场景;性能方面,单节点可承载 QPS 超过10万,同时在时耗方面有保护机制确保低延迟。...享受腾讯提供的 7*24小时的专业消息队列服务支持,享受高可用消息队列服务,无需关注运维细节。

    1.4K30

    腾讯中间件产品升级重磅发布会火热报名中!

    腾讯中间件 全面覆盖分布式微服务、分布消息消息队列等热点技术。提供企业技术中台解决方案。...立足当下,放眼未来,腾讯原生三驾马车已扬帆起航,腾讯中间件团队历尽多年打磨,成功助力1k+中大型企业业务成功,加速原生应用转型和创新。...原生应用无侵入接入、微服务金融高可用方案、基于分布式架构的微服务链路监控诊断、监控全方位可视化升级四大重磅功能全面助力企业数字化架构升级,为你带来一场豪华的技术盛宴!...腾讯微服务观测平台 TSW 提供原生服务可观察性解决方案。...腾讯微服务观测平台 TSW 能够追踪到分布式架构中的上下游依赖关系,绘制拓扑图,为您提供服务、接口、实例、中间件等多维度调用观测,助您掌控系统关键指标,及时发现错误调用与性能瓶颈。

    84641

    一文带你读懂中间件

    得益于政府、金融、电信等行业信息化建设的提速,以及用户对基于分布式应用服务、消息队列等中间件工具的需求增长,未来,中间件市场将保持稳定增长的态势。...交易中间件适用于联机交易系统,如银行业务系统、订票系统等,在金融、财税、电信等行业中得到广泛落地。 消息中间件解决了分布式计算环境下多个子系统间的消息通信问题。...中间件产品包括应用服务器AAS、消息中间件AMQ、监控平台AMP、计算平台ACP。 2019年,实现营收8845.52万元,同比增长31.36%。...腾讯 腾讯于2013年开始自研分布消息中间件系统TubeMQ,专注于大数据场景下海量数据的高性能存储和传输,经过近7年上万亿的海量数据沉淀,目前日均接入量超过25万亿条,并服务于微信支付、腾讯视频、腾讯广告等产品...2018年,腾讯发布微服务中间件TSF,是围绕应用和微服务的PaaS平台,为企业解决IT系统复杂、升级迭代慢、运维扩展性差、海量用户支撑能力薄弱等一系列难题,帮助传统企业快速构建面向互联网亿万用户的大规模分布式架构

    3.8K40

    为什么说腾讯TDSQL是金融行业的“杀手锏”应用?

    近日,腾讯发布了全新的自主可控金融业务支撑平台,该平台把腾讯计算架构、分布式数据库、微服务、大数据以及人工智能等方面的技术优势进行了整合,专为金融行业提供覆盖核心架构和主要应用场景的“自主可控”...笔者认为,分布式数据库TDSQL是重头戏,未来可能会成为金融行业的“杀手锏”应用。 为什么看好TDSQL ?本文总结了以下5个关键点。...TDSQL也是在MySQL和MariaDB基础上构建,但是为了真正做到自主可控,腾讯从2006年开始就在做自主可控的研发,已做到内核优化。...可以想象,未来随着互联网金融步伐加快,TDSQL很有可能成为金融行业的“杀手锏”应用。...往期推荐 《腾讯分布式数据库TDSQL的十年自主可控之路》 《带你认识真正的金融自主可控分布式数据库》 《腾讯分布式数据库TDSQL2018回顾》 4.png 免费试用 包括数据库MySQL

    1.5K20
    领券