Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。该项目的目标是为处理实时数据提供一个统一、高吞吐、低延迟的平台。
现在,Kafka和Zookeeper已经启动成功。完美,可以使用Java代码进行Kafka相关的操作。
高吞吐量场景下消费Kafka消息需要解决分区分配、负载均衡、并行处理等问题。典型案例如电商秒杀系统:10个消费者实例处理100个分区的订单消息,日均处理量超过2...
随着数字化转型的深入,企业对数据处理的需求已从传统的批处理模式逐步转向实时化、高并发的场景。无论是金融风控、电商交易、物联网监控还是社交网络分析,毫秒级的响应与...
文章导读 随着越来越多企业将 Kafka 迁移至云原生架构,AutoMQ 正逐渐成为 Kafka 用户的云端优选。💡 作为兼容 Apache Kafka 协议...
幂等性(Idempotence)是一个数学与计算机学概念,指的是对同一个操作执行多次,其结果与执行一次完全一致。在 Kafka 中,这意味着生产(Produce...
Kafka 在 0.11.0.0 引入的事务(Transactions)正是为了解决“恰好一次(Exactly-Once)语义”的痛点,同时兼顾跨会话幂等性、跨...
Kafka 可以在多种 Linux 发行版上运行,本文以 CentOS 7 为例,其他发行版步骤类似,只需调整包管理命令。
【博客标题】 Kafka 全景入门:从诞生背景到生产实战,一文讲透核心架构、特性以及与RabbitMQ的对比
翻译:https://www.confluent.io/blog/kip-848-consumer-rebalance-protocol/
在开始编码前,需要先安装并启动 Kafka 服务。Kafka 依赖于 ZooKeeper 进行集群协调,因此需要先启动 ZooKeeper。
文章导读 在云原生架构逐渐成为主流的今天,越来越多企业开始将 Apache Kafka 与数据湖、Lakehouse 结合,构建实时数据分析能力。然而,Kaf...
在这篇文章中,我将先介绍Java事件驱动架构的基本概念与工作机制,再深入讲解Kafka生态的构成及各部分功能,最后通过一个电商系统的实例展示如何在Java中利用...
在现代分布式系统中,事件驱动架构凭借其松耦合、高可扩展性的特性被广泛采用。本文将结合最新技术栈,通过实操案例展示如何使用Java和Kafka构建事件驱动系统,包...
近年来,国内多个城市的存量房市场呈现出波动频繁、挂牌量上升但成交周期拉长的结构性特征。特别是在一线与强二线城市中,房源更新节奏加快,用户浏览行为活跃,价格异动更...
腾讯云TDP | 产品KOL (已认证)
首先是 node.id,这个我理解和 broker.id 差不多,但是zk模式的 kafka 集群中,节点被称为broker,但是在 Kraft 模式下,每个节...
最近还没摸鱼几天呢,领导又给安排任务了,让我研究一下 Debezium 做一下数据库的 CDC 采集。Debezium?第一个念头就是好熟悉的名字,这不是两年前...
作者介绍:简历上没有一个精通的运维工程师。下面的思维导图也是预计更新的内容和当前进度(不定时更新)。
Kafka是一个高性能的分布式流处理平台,专为实时数据处理、流数据分发和海量消息处理设计,广泛应用于日志收集、实时分析和事件驱动架构等领域。其核心在于通过生产者...