首页
学习
活动
专区
圈层
工具
发布

#etl

qData开源数据中台ETL可视化编排能力解析:一种基于画布的数据集成任务构建方式

吴同

在企业数据系统建设过程中,数据来源日益增多,数据价值的发挥越来越依赖于稳定、清晰、可维护的数据处理链路。

8710

Kafka里实时消费Oracle变更数据,除了Debezium还有什么选择?

河北英数创新软件马英迪

聊到把Oracle的变更数据实时推到Kafka,Debezium几乎已经成了一个默认选项。

9610

AI 数据处理管道:Argo Workflows 加 TKE 构建高效 ETL 流水线

克劳德2048

摘要: AI 模型的成功严重依赖于高质量的数据,数据处理任务通常具有生命周期短、资源需求爆发性强、依赖关系复杂的特点。腾讯云容器服务 TKE 支持 Argo W...

16210

为什么LogMiner解析大事务会OOM?深入PGA的内存管理机制

河北英数创新软件马英迪

半夜业务方跑了个批量更新,几百万行。第二天早上发现,所有基于LogMiner的同步链路全挂了。

14110

六种 主流ETL 工具的比较(DataPipeline,Kettle,Talend,Informatica,Datax ,Oracle Goldengate)

用户12023652

DataX 是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、F...

30310

数据仓库ETL与多维分析,系分必考的五个核心问题

程序员古德

传统关系型数据库,也就是OLTP系统,解决的是"记流水账"的问题——用户下单、库存变化、账户转账,每条记录都要精准、实时、不重不漏。但当企业管理者想从海量历史数...

13510

从零自研日志解析组件TLA:一种嵌入式的国产CDC技术方案

河北英数创新软件马英迪

TLA(Transaction Log Analysis)是一个完全国产自研的事务日志解析组件,以嵌入式组件形态存在,可自由集成到各类数据平台、ETL工具、灾备...

12010

放弃XStream吧,聊聊我们怎么用自研的TLA组件搞定Oracle日志解析

河北英数创新软件马英迪

先交代一下背景。我们团队一直在做数据库事务日志解析这块的技术,说白了就是CDC(Change Data Capture)最底层的那层——把Oracle的redo...

12110

Apache SeaTunnel AI CLI Benchmark:7 款大模型、100 个 ETL 任务实测,谁真正能跑起来?

Apache SeaTunnel

摘要: 大模型正在快速进入数据工程领域,承担理解自然语言需求、生成 ETL 任务配置、校验配置,以及在执行失败后协助定位和修复问题等工作。对团队而言,真正困难的...

19310

让ETL工程师失业的论文 | DuckDB深度集成 LLMs

用户4035096

好的,为了完全理解《Beyond Quacking: Deep Integration of Language Models and RAG into Duck...

11210

用 Spring AI 给数据库 “装个监控管家”:从 ETL 到 AI 赋能,让系统再也不 “掉链子”

HELLO程序员

GSK(中国) | 全栈架构师 (已认证)

在如今这个 “数据为王” 的时代,想让业务顺顺利利跑起来、AI 应用不掉线,数据库性能必须拿捏得死死的。现在企业都越来越依赖实时数据处理和分析,一套靠谱的数据库...

17210

Data Fabric vs 数据中台:企业数据整合架构正在发生什么变化

Aloudata

Data Fabric 正在把企业数据整合从“先集中再使用”推向“先连接再编织”,强调跨源访问、逻辑集成与敏捷复用;数据中台则更强调集中治理、统一加工与平台化输...

30810

五维能力体系,构建企业数据处理的调度中枢

用户12472095

批量作业调度在企业数据架构中处于一个特殊的位置——它不属于任何一个具体的业务环节,却是几乎所有数据处理流程能够自动运转的前提条件。数据采集:依赖调度按时触发ET...

12100

告别 ELK 全家桶!OpenObserve:一个二进制搞定日志、指标、链路追踪

BugShare

随着微服务、AI应用的发展,一个应用每天可能产生数百万条日志、大量数据以及复杂的调用链。为了实现调用链的日志可观测性,你的团队就不得不维护一整套日志体系:

1.2K00

语义层权限治理:如何实现业务级精细化访问控制

Aloudata

在传统数据体系中,权限控制通常基于数据库表或字段进行划分。这种方式在简单场景下能够满足需求,但在实际业务中,很快会遇到局限。例如,同一张订单表中,不同角色需要看...

16300

Data Agent 热了两三年,为什么少见真正的标杆案例?

Aloudata

过去两三年,全球市场围绕 Agentic Analytics、Data Agent、Gen BI、数据分析智能体的声量持续升温,中国市场还独特地提出了更好记忆的...

24000
领券