Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。该项目的目标是为处理实时数据提供一个统一、高吞吐、低延迟的平台。
这也是大厂后端面试的高频场景设计题:GPS 漂移、消息乱序、热点读放大、ETA 不准,个个是坑。本篇文章,从需求对齐、架构设计、数据模型讲到核心代码,建议先收藏...
DataBridge 是我维护的 DataGrip 插件。它支持 Elasticsearch、Kafka、ZooKeeper、RabbitMQ、Nacos、Mi...
先说结论:Kafka 默认只能保证 At Least Once(至少一次,不丢但可能重复),“只消费一次”需要开发者在消费端做额外设计。
上一篇结尾,那条穿过 L4 代理的 MetadataRequest 终于抵达 Broker。门内发生了什么?谁来 accept 这条 TCP 连接、TLS 与 ...
上一篇结尾留下了一条悬念:Producer 「查元数据缓存」查到的那些 Leader 位置,最初是从哪来的?bootstrap.servers 明明只写了一个地...
上一篇我们聊了 Kafka Log 的结构,结尾留了一个问题:单机的 Log 设计得再优秀,受制于单机存储容量上限,一台机器难以装下一个公司的活动数据,也无法做...
爆款视频瞬间涌进几十万点赞,按钮卡 3 秒,数据库行锁排到爆——这场景我真遇到过。这篇文章把高并发点赞&关注的完整方案讲透:瓶颈定位、架构演进、生产级代码、踩坑...
主播一句“来波 666”,背后是每秒十万级写入、一条弹幕送达百万人的残酷现实。逐条推送?10 万 QPS × 100 万在线 = 100 亿次/秒,物理上不可能...
写这个系列之前,我觉着有必要先搞清楚一件事:Kafka 出现之前,世界是什么样的。2010 年 LinkedIn 着手做 Kafka 的时候,ActiveMQ ...
CloudDM 是一款免费且开源的团队化数据库管理工具,提供统一 Web 数据库访问、权限控制、数据脱敏、SQL 审核、流程协同和数据库 CI/CD 等能力。
Kafka原理和使用的文章网上很多了,这里只做总体性的概述,拉齐下知识背景。不是本文的重点。
之前kafka消费端采用的是standalone模式,使用的是单分片。消费端指定分片0。使用了zookeeper进行选主。只在主节点进行消费。这个选主的过程要几...
九月底,Apache Iceberg 的 dev 邮件列表上挂出一个投票,标题是 [VOTE][SPEC] Forbid writing new equalit...
翻 Kafka 4.3 发布公告时我愣了一下:致谢名单里写着 Claude、Claude Sonnet 4.6 和 Copilot。一个消息队列的版本发布,贡献...
同步 HTTP 接口有网关、RPC 客户端双层超时兜底,卡住请求会快速释放 Tomcat 线程;但 MQ 消费、异步任务、定时任务属于常驻后台线程模型,线程不依...