首页
学习
活动
专区
圈层
工具
发布

#etl

qData 数据中台专业版:基于数据标准统一企业数据口径的实践

吴同

在数据中台建设过程中,报表数据不一致是一个普遍存在的问题。同一类业务数据,不同系统或部门统计出的结果可能存在差异。

7910

多系统数据每天汇总,如何从人工处理走向稳定数据流程?

吴同

订单在业务系统,客户信息在客户管理系统,结算数据在财务系统。系统各自独立运行时,通常不会觉得有问题。但到了做日报、经营统计、数据分析,或者需要把部分数据提供给其...

7210

qData开源数据中台ETL可视化编排能力解析:一种基于画布的数据集成任务构建方式

吴同

在企业数据系统建设过程中,数据来源日益增多,数据价值的发挥越来越依赖于稳定、清晰、可维护的数据处理链路。

18310

Kafka里实时消费Oracle变更数据,除了Debezium还有什么选择?

河北英数创新软件马英迪

聊到把Oracle的变更数据实时推到Kafka,Debezium几乎已经成了一个默认选项。

26210

AI 数据处理管道:Argo Workflows 加 TKE 构建高效 ETL 流水线

克劳德2048

摘要: AI 模型的成功严重依赖于高质量的数据,数据处理任务通常具有生命周期短、资源需求爆发性强、依赖关系复杂的特点。腾讯云容器服务 TKE 支持 Argo W...

22310

为什么LogMiner解析大事务会OOM?深入PGA的内存管理机制

河北英数创新软件马英迪

半夜业务方跑了个批量更新,几百万行。第二天早上发现,所有基于LogMiner的同步链路全挂了。

19410

六种 主流ETL 工具的比较(DataPipeline,Kettle,Talend,Informatica,Datax ,Oracle Goldengate)

海风自语

DataX 是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、F...

48010

数据仓库ETL与多维分析,系分必考的五个核心问题

程序员古德

传统关系型数据库,也就是OLTP系统,解决的是"记流水账"的问题——用户下单、库存变化、账户转账,每条记录都要精准、实时、不重不漏。但当企业管理者想从海量历史数...

23410

从零自研日志解析组件TLA:一种嵌入式的国产CDC技术方案

河北英数创新软件马英迪

TLA(Transaction Log Analysis)是一个完全国产自研的事务日志解析组件,以嵌入式组件形态存在,可自由集成到各类数据平台、ETL工具、灾备...

22810

放弃XStream吧,聊聊我们怎么用自研的TLA组件搞定Oracle日志解析

河北英数创新软件马英迪

先交代一下背景。我们团队一直在做数据库事务日志解析这块的技术,说白了就是CDC(Change Data Capture)最底层的那层——把Oracle的redo...

18810

Apache SeaTunnel AI CLI Benchmark:7 款大模型、100 个 ETL 任务实测,谁真正能跑起来?

Apache SeaTunnel

摘要: 大模型正在快速进入数据工程领域,承担理解自然语言需求、生成 ETL 任务配置、校验配置,以及在执行失败后协助定位和修复问题等工作。对团队而言,真正困难的...

26110

让ETL工程师失业的论文 | DuckDB深度集成 LLMs

用户4035096

好的,为了完全理解《Beyond Quacking: Deep Integration of Language Models and RAG into Duck...

14410

用 Spring AI 给数据库 “装个监控管家”:从 ETL 到 AI 赋能,让系统再也不 “掉链子”

HELLO程序员

GSK(中国) | 全栈架构师 (已认证)

在如今这个 “数据为王” 的时代,想让业务顺顺利利跑起来、AI 应用不掉线,数据库性能必须拿捏得死死的。现在企业都越来越依赖实时数据处理和分析,一套靠谱的数据库...

21210

Data Fabric vs 数据中台:企业数据整合架构正在发生什么变化

Aloudata

Data Fabric 正在把企业数据整合从“先集中再使用”推向“先连接再编织”,强调跨源访问、逻辑集成与敏捷复用;数据中台则更强调集中治理、统一加工与平台化输...

39510

五维能力体系,构建企业数据处理的调度中枢

用户12472095

批量作业调度在企业数据架构中处于一个特殊的位置——它不属于任何一个具体的业务环节,却是几乎所有数据处理流程能够自动运转的前提条件。数据采集:依赖调度按时触发ET...

18600
领券