Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >大数据平台架构:数据平台建设的几种方案

大数据平台架构:数据平台建设的几种方案

作者头像
成都加米谷大数据
修改于 2020-10-14 06:22:42
修改于 2020-10-14 06:22:42
3K0
举报
文章被收录于专栏:大数据开发大数据开发

随着大数据在越来越多的企业当中落地,企业要开展大数据相关的业务,那么首先要搭建起自身的数据平台。而企业搭建大数据平台,往往需要结合成本、业务、人员等各方面的因素,来规划数据平台建设方案。今天我们就来聊聊数据平台建设的几种方案。

数据平台其实在企业当中一直都是存在的,但是进入到数据爆发式增长的大数据时代,传统的企业级数据库,在满足数据管理应用上,并不能完全满足各项需求。

对于企业而言,基于大数据背景下的企业数据管理应用,也需要更加符合需求的数据平台建设方案。

主流数据平台建设方案

从市场主流选择来看,企业数据平台建设方案,目前大致有以下几种:

1、常规数据仓库

数据仓库的重点,是对数据进行整合,同时也是对业务逻辑的一个梳理。数据仓库虽然也可以打包成SAAS那种Cube一类的东西来提升数据的读取性能,但是数据仓库的作用,更多的是为了解决公司的业务问题。

2、敏捷型数据集市

数据集市也是常见的一种方案,底层的数据产品与分析层绑定,使得应用层可以直接对底层数据产品中的数据进行拖拽式分析。数据集市,主要的优势在于对业务数据进行简单的、快速的整合,实现敏捷建模,并且大幅提升数据的处理速度。

3、MPP(大规模并行处理)架构

进入大数据时代以来,传统的主机计算模式已经不能满足需求了,分布式存储分布式计算才是王道。大家所熟悉的Hadoop MapReduce框架以及MPP计算框架,都是基于这一背景产生。

MPP架构的代表产品,就是Greenplum。Greenplum的数据库引擎是基于Postgresql的,并且通过Interconnnect神器实现了对同一个集群中多个Postgresql实例的高效协同和并行计算。

4、Hadoop分布式系统架构

当然,大规模分布式系统架构,Hadoop依然站在不可代替的关键位置上。雅虎、Facebook、百度、淘宝等国内外大企,最初都是基于Hadoop来展开的。

Hadoop生态体系庞大,企业基于Hadoop所能实现的需求,也不仅限于数据分析,也包括机器学习数据挖掘、实时系统等。企业搭建大数据系统平台,Hadoop的大数据处理能力、高可靠性、高容错性、开源性以及低成本,都使得它成为首选。

关于大数据平台架构,数据平台建设的几种方案,以上就为大家做了一个简单的介绍了。企业基于大数据平台建设的需求,对于专业人才的需求度也正在增加,具备过硬技术实力的大数据人才,将受到更高程度的青睐。

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文系转载,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
从数据仓库到大数据平台再到数据中台
现在各种新名词层出不穷,顶层的有数字城市、智慧地球、智慧城市、城市大脑;企业层面的有数字化转型、互联网经济,数字经济、数字平台; 平台层面的有物联网,云计算,大数据,5G,人工智能,机器智能,深度学习,知识图谱;技术层面的有数据仓库、数据集市、大数据平台、数据湖、数据中台、业务中台、技术中台等等,总之是你方唱罢他登场,各种概念满天飞…
python与大数据分析
2022/03/11
6270
从数据仓库到大数据平台再到数据中台
银行的大数据应用
“大数据”一词据称最早于1980年出现在美国著名未来学家阿尔文·托夫勒所著的《第三次浪潮》一书中,他在书中将“大数据”称为“第三次浪潮的华彩乐章”。在笔者看来,大数据的应用效果主要取决于两部分,一是大数据的技术部分,二是对数据质量和价值有重要影响的数据治理部分,二者应当并重。本书分别介绍下这两条线的发展历程。
用户6900693
2020/04/10
1.5K0
【案例】农业银行大数据平台项目——海量数据复杂运算处理
数据猿导读 随着数据量的不断增大、接入的系统越来越多,系统加工效率逐步降低,满足内部数据分析和监管机构的监管数据不断增加的需求,农业银行在2013年开始建设完全自主可控的大数据平台。 本篇案例为数据猿
数据猿
2018/04/24
8.2K0
【案例】农业银行大数据平台项目——海量数据复杂运算处理
大数据时代,传统数据仓库技术是否已经过时?
传统的数据仓库架构一般有由源系统、ODS、EDW、Data Mart几部分组成。源系统就是业务系统、管理系统、办公系统等等;ODS是操作数据存储;EDW是企业级数据仓库,Data Mart是数据集市。
物流IT圈
2019/07/16
2.8K0
大数据时代,传统数据仓库技术是否已经过时?
什么样的大数据平台架构,才是最适合你的?
技术最终为业务服务,没必要一定要追求先进性,各个企业应根据自己的实际情况去选择自己的技术路径。   它不一定具有通用性,但从一定程度讲,这个架构可能比BAT的架构更适应大多数企业的情况,毕竟,大多数企业,数据没到那个份上,也不可能完全自研,商业和开源的结合可能更好一点,权当抛砖引玉。   大数据平台架构的层次划分没啥标准,以前笔者曾经做过大数据应用规划,也是非常纠结,因为应用的分类也是横纵交错,后来还是觉得体现一个“能用”原则,清晰且容易理解,能指导建设,这里将大数据平台划分为“五横一纵”。
BestSDK
2018/03/01
8.3K0
什么样的大数据平台架构,才是最适合你的?
大数据、人工智能与云计算的融合与应用
引言 人工智能、大数据与云计算三者有着密不可分的联系。人工智能从1956年开始发展,在大数据技术出现之前已经发展了数十年,几起几落,但当遇到了大数据与分布式技术的发展,解决了计算力和训练数据量的问题,开始产生巨大的生产价值;同时,大数据技术通过将传统机器学习算法分布式实现,向人工智能领域延伸;此外,随着数据不断汇聚在一个平台,企业大数据基础平台服务各个部门以及分支机构的需求越来越迫切。通过容器技术,在容器云平台上构建大数据与人工智能基础公共能力,结合多租户技术赋能业务部门的方式将人工智能、大数据与云计算进行
加米谷大数据
2018/06/04
2.2K0
大数据平台架构:分布式技术架构简介
不可否认,大数据在这些年的发展当中,实现大数据处理的核心技术,始终是分布式。基于分布式技术架构,有分布式存储、分布式计算等相应的技术框架组件,形成了完善的技术生态,为大数据处理需求任务提供相应的解决方案。今天我们就从大数据平台架构的角度,来聊聊分布式技术架构。
成都加米谷大数据
2020/09/29
2.7K0
大数据平台架构:分布式技术架构简介
如何从0到1搭建大数据平台
大数据时代这个词被提出已有10年了吧,越来越多的企业已经完成了大数据平台的搭建。随着移动互联网和物联网的爆发,大数据价值在越来越多的场景中被挖掘,随着大家都在使用欧冠大数据,大数据平台的搭建门槛也越来越低。借助开源的力量,任何有基础研发能力的组织完全可以搭建自己的大数据平台。但是对于没有了解过大数据平台、数据仓库、数据挖掘概念的同学可能还是无法顺利完成搭建,因为你去百度查的时候会发现太多的东西,和架构,你不知道如何去选择。今天给大家分享下大数据平台是怎么玩的。
数据社
2020/07/02
3.7K0
京东大数据走进北大:揭秘电子商务大数据平台技术架构与产品架构
4月20日,京东大数据来到了北京大学光华管理学院,这次由京东大数据部平台运营管理负责人葛胜利老师给北大光华管理学院的师生们带来主题为“电子商务大数据平台技术架构与产品架构”的专题讲座,为大家讲述京东大数据平台如何在短短几年的时间里突破技术难关,实现产品创新,建设高效、安全、稳定的大数据平台,并以数据支撑京东的快速发展。 讲座中,葛胜利从京东大数据平台的“使命、架构、产品、运营”四大方面出发,全面的剖析了其中的奥秘。 在讲到平台使命时,胜利总提到,大数据平台在京东集团中的战略地位很重要,因为京东的公司运营是由
小莹莹
2018/04/23
1.4K0
京东大数据走进北大:揭秘电子商务大数据平台技术架构与产品架构
硅谷企业的大数据平台架构什么样?看看Twitter、Airbnb、Uber的实践
Twitter是最早一批推进数字化运营的硅谷企业之一,其公司运营和产品迭代的很多功能是由其底层的大数据平台提供的。图7-2所示为Twitter大数据平台的基本示意图。
IT阅读排行榜
2021/06/01
8410
硅谷企业的大数据平台架构什么样?看看Twitter、Airbnb、Uber的实践
大数据平台架构及主流技术栈
互联网和移动互联网技术开启了大规模生产、分享和应用数据的大数据时代。面对如此庞大规模的数据,如何存储?如何计算?各大互联网巨头都进行了探索。Google的三篇论文 GFS(2003),MapReduce(2004),Bigtable(2006)为大数据技术奠定了理论基础。随后,基于这三篇论文的开源实现Hadoop被各个互联网公司广泛使用。在此过程中,无数互联网工程师基于自己的实践,不断完善和丰富Hadoop技术生态。经过十几年的发展,如今的大数据技术生态已相对成熟,围绕大数据应用搭建的平台架构和技术选型也逐渐趋向统一。
全栈程序员站长
2022/09/02
4.4K0
百度、阿里、腾讯平台架构都熟悉,小米大数据平台架构OLAP架构演进是否了解
分析型系统进行联机数据分析,一般的数据来源是数据仓库,而数据仓库的数据来源为可操作型系统,可操作型 系统的数据来源于业务数据库中,那么我们常用的数据仓库的组成和架构一般如下图所示
Lansonli
2021/10/11
1.6K0
基于商业版Hadoop搭建的数据仓库解决方案
Tech 导读 本方案以某金融企业大数据平台建设方案为例,面对企业内部的数据现状提出合理化建议,基于商业版Hadoop数据平台搭建数据仓库系统,实现数据资产的充分利用,结合当时现状推荐国产自主研发商业版Hadoop平台TDH做为基础平台,以下为方案概述。
京东技术
2023/01/05
1.1K0
基于商业版Hadoop搭建的数据仓库解决方案
首期TVP修炼营——智能时代,大数据该如何破局?
2019 年 3 月 16 日,在北京国粹馆举行了首期 TVP 修炼营,这是一场专属于热爱大数据的技术专家们的活动。TVP,即腾讯云最具价值专家(Tencent Cloud Valuable Professional),是腾讯云实现数字化转型、建设智慧生态的重要战略计划之一,旨在通过建立与行业技术专家的交流平台,促进腾讯云与技术专家和用户之间的有效沟通,从而提升腾讯云产品能力,打造云计算技术生态,实现“用科技影响世界”的美好愿景。
TVP官方团队
2019/03/19
11.9K0
首期TVP修炼营——智能时代,大数据该如何破局?
一文遍历大数据架构变迁史
作者 | 松子(李博源) 策划 | Tina 编者按:《透过数字化转型再谈数据中台》系列连载 6-8 篇左右,作者结合自己在数据中台领域多年实践经验,总结了数据架构知识、BI 知识,以及分享给大家一些产业互联网实施经验。本文是系列文章中的第三篇。 在前面两篇 “关于数字化转型的几个见解 ”、“唯一性定理中的数据中台”提到了数据中台发展问题。比如概念发展太快,信息量过载,以及存在广义、狭义的数据中台定义的差别等,涉及到的这些知识都离不开数据架构的范畴,所以这一篇我会通过大数据架构发展的视角来总结与分享。(一些
深度学习与Python
2023/04/01
8740
一文遍历大数据架构变迁史
从0到1搭建大数据平台之计算存储系统
前面已经给大家讲了《从0到1搭建大数据平台之数据采集系统》、《从0到1搭建大数据平台之调度系统》,今天给大家讲一下大数据平台计算存储系统。大数据计算平台目前主要都是围绕着hadoop生态发展的,运用HDFS作为数据存储,计算框架分为批处理、流处理。
数据社
2020/08/04
1.2K0
从0到1搭建大数据平台之计算存储系统
【赵渝强老师】基于大数据组件的平台架构
在了解了大数据各个生态圈所包含的组件及其功能特性后,就可以利用这些组件来搭建一个大数据平台从而实现数据的存储和数据的计算。下图展示了大数据平台的整体架构。
赵渝强老师
2024/08/12
3240
【赵渝强老师】基于大数据组件的平台架构
大数据平台开发:大数据系统架构模块解析
企业要开展大数据相关业务,首先就需要基于自身的需求,来设计搭建数据系统平台。而大数据系统平台的搭建,需要基于实际需求,来进行系统架构规划。今天我们就从大数据平台开发的角度,来对大数据系统架构模块做一个简单的介绍。
成都加米谷大数据
2020/09/27
3.2K0
大数据平台开发:大数据系统架构模块解析
从架构特点到功能缺陷,重新认识分析型分布式数据库 (转载非原创)
转载来源: https://www.cnblogs.com/ivan-uno/p/9051225.html
xlj
2022/05/03
6270
四大银行(工建农中)大数据进展如何?
中国建设银行信息技术管理部资深经理林磊明 ▼ ▼ 1、银行压力越来越大 从十二五走到十三五期间,银行业面临的各方面的压力越来越大,从我们的年报数字可以看出去年四大行的利润增长基本上趋近于零增长。在这样
钱塘数据
2018/03/06
2.1K0
四大银行(工建农中)大数据进展如何?
推荐阅读
相关推荐
从数据仓库到大数据平台再到数据中台
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档