数据资产管理（DAM，Data Asset Management）是指规划、控制和提供数据及信息资产的一组业务职能，包括开发、执行和监督有关数据的计划、政策、方...

大数据平台的资源管理组件主要针对存储资源与计算资源进行分析优化。前文《大数据平台：资源管理及存储优化技术》主要介绍了存储资源优化，本文主要介绍大数据平台构建过程...

大数据平台的资源管理组件主要涉及存储资源和计算资源管理两部分，属于大数据平台运维管理系统。基于资源管理系统，大数据平台的开发运维人员能够清晰掌控平台的资源使用情...

Ambari是Hortonworks主导发行的开源管理平台，作为Apache顶级项目，Ambari也是最早且最成熟的大数据集群管理开源组件，可类比于Cloude...

Presto：2012年秋季Facebook内部开始研发，2013年正式对外开源。Presto是Facebook用于补充和替代Hive的产品，主要用于实时场景的...

Statistics 统计信息，参考：org.apache.spark.sql.catalyst.plans.logical.Statistics

Hive是较早的SQL on Hadoop系统，对大数据SQL执行有广泛和深远的影响。它最初由Facebook开发，后来成为Apache软件基金会的一个开源项目...

为了实现动态数据源管理框架的目标，Calcite提供了丰富的可插拔能力和扩展性。用户可以根据使用场景进行自定义扩展。相关可插拔扩展的组件包括：

物化视图(Materialized View)：是一种特殊的物理表，本质是预计算，是多个计算过程之间的联系建立。从数据组织层面优化数据访问效率，即把某些耗时的操...

计划树执行是SQL处理的第五步，也称为Implementor执行实现。Calcite主要提供两种Implementor实现方式：RelImplementor 和...

优化器优化是SQL处理的第四步，也是最核心的一步，优化器优化本质是基于优化规则实现关系代数等价转换。

计划树构建是SQL处理的第三步，构建出可关系代数优化的逻辑计划树RelNode，是优化器执行优化的前提。

合法性校验是SQL处理的第二步，在计算执行前，提前验证SQL正确性。该验证操作是非线性的，需要基于语法树处理各种嵌套的复杂情况。Calcite合法性校验基于Sq...

目前广泛使用的语法解析框架主要包括ANTLR、JavaCC和Yacc等。在大数据领域中，很多计算引擎都是基于ANTLR进行语法解析，例如 Hive、Spark和...

SQL执行流程有一套通用的步骤，尽管具体的实现可能会因数据库系统的不同而有所差异，但流程相对固定。以下是通用的SQL处理流程：

Calcite作为SQL中间件，为提供扩展性并适配不同数据源，设计了Adapter适配器方式对接异构数据源，允许Calcite连接到不同类型的数据源。Adapt...

Convention：Calcite设计的核心概念，代表一类特定的数据源或执行引擎，基于Convention可生成与具体数据源或者引擎相关的执行计划。Calci...

关系模型是一种用于数据库管理的理论框架，其基础建立在数学的集合论之上。该模型由Edgar F. Codd 于1970年提出，旨在以一种严格且理论化的方式来描述数...

Apache Calcite是一款开源的动态数据管理框架，提供了标准的 SQL 语言、查询优化和连接各种数据源的能力，但不包括数据存储、处理数据的算法和存储元数...

随着信息时代的飞速发展，数据已经成为了各行各业的重要资源。知识图谱作为大数据时代的一种新型数据组织形式，能够将分散、无序的数据进行结构化处理，并建立起相互之间的...