数据中台要求全企业共用一个数据技术平台、共建数据体系、共享数据服务能力。实际上一个企业中由于各个业务线发展不均衡,各自都有独立的数据处理架构,导致共享数据非常困难,所以要构建数据中台不仅是对技术架构的改变,同时还是对整个企业业务运转模式的改变,需要企业在组织架构和资源方面给予支持。数据中台是一个企业战略行动,绝非一个项目组或者一个小团队就能做的,需要了解整个企业的业务情况,对业务进行梳理,还需要技术支撑、组织的支撑,否则很难推行下去。
随着人工智能、数据分析等相关技术逐步渗透到各行业中,更多的传统企业面临数字化转型的需求,以求获得良好的、可持续的发展。而绝大多数企业的数字化转型,都离不开数据分析等技术及组织文化的升级。
数万人的互联网公司如何高效运转,提升技术开发和运用效率? 截至2019年6月30日,腾讯(00700.HK)共有5.63万名员工。在去年9月30日的大规模组织架构调整中,腾讯没有通过人员团队移动,效仿建立技术领域的“大中台”制,而是寄希望于用内部的“开源协同”去实现“减少重复造轮子”的目标,完成有腾讯特色的“中台”功能。 此后,腾讯开始愈发注重内部的“技术协同”,希望营造开放的技术氛围。2019年6月3日,腾讯副总裁姚星在腾讯内部技术社区码客上写道:开源协同是目前腾讯研发体系升级很重要的一个方法,开源
刚刚过去的21世纪的第二个十年,是消费互联网蓬勃发展的十年,也是云计算、大数据、人工智能等新一代信息技术,即“数字化技术”快速崛起的十年。
现在各种新名词层出不穷,顶层的有数字城市、智慧地球、智慧城市、城市大脑;企业层面的有数字化转型、互联网经济,数字经济、数字平台; 平台层面的有物联网,云计算,大数据,5G,人工智能,机器智能,深度学习,知识图谱;技术层面的有数据仓库、数据集市、大数据平台、数据湖、数据中台、业务中台、技术中台等等,总之是你方唱罢他登场,各种概念满天飞…
<数据猿导读> 中国联通CTO范济安在2016年中国通信大数据大会上发表了以“中国联通大数据发展与规划”为主题的演讲。范济安表示,中国联通的大数据发展大致可以分为三个阶段。目前所面临的挑战,主要是怎样
在大数据平台建设初期,安全也许并不是被重点关注的一环。大数据平台的定位主要是服务数据开发人员,提高数据开发效率,提供便捷的开发流程,有效支持数仓建设。大数据平台的用户都是公司内部人员。数据本身的安全性已经由公司层面的网络及物理机房的隔离来得到保证。那么数据平台建设过程中,需要考虑哪些安全性方面的问题?
在企业数据建设过程中,都离不开大数据平台建设,大数据平台建设涉及数据采集、数据存储、数据仓库构建、数据处理分析、数据挖掘机数据可视化等等一系列流程。
数据中台包括平台、工具、数据、组织、流程、规范等一切与企业数据资产如何用起来所相关的。
编程语言:Python,Java,SQL,Scala. 无论后端选用哪种编程语言,SQL是必备。Python/Java/Scala最好是精通一门会两门。
康威定律说:“设计系统的架构受制于产生这些设计的组织的沟通结构。”通俗的来讲:产品必然是其(人员)组织沟通结构的缩影。这个定律是比较靠谱的。我给你举个自己的例子。
2009年,Gartner发布2010年全球Top10技术趋势,高级分析取代上一年列第二位的BI,成为2010年第二位新技术;2011年,麦肯锡全球研究院(MGI)发布了报告《大数据:创新、竞争和生产力的下一个前沿阵地》,预测高级分析这一职位对于数据科学家人才的需求缺口到2018年将达到14万~19万。从此,数据科学家成为最抢手的职业,以大数据为花名的数据科学得到了全球从政府到各行各业的青睐,并因此得以持续迅猛发展。
本文作者 耿立超,架构师,14年IT系统开发和架构设计经验,CSDN博客专家,著有《大数据平台架构与原型实现:数据中台建设实战》一书。 原文链接: https://laurence.blog.csdn.net/article/details/106851739 故事缘起 我们需要工程原型! 从2008年Hadoop成为Apache的顶级项目开始,大数据技术迎来了十多年的持续发展,其间随着Spark的异军突起,整个大数据生态圈又经历了一次“装备升级”,变得更加完善和强大。 今天,很多企业已经完成了早期对大数据
看了很多数据湖的介绍文章,笔者认为数据胡和我们常说的ODS数据很类似,也就是原始数据的保存区域,存储来自各业务系统(消息队列)的原始数据。比如电商网站的访问日志(埋点的时候是以JSON存储),物联网终端设备实时发送的数据等原始数据直接存储在数据仓库的ODS层。
2015 年对于银行和金融业公司来说是一个开局之年,在这一年中他们继续用大数据来帮助他们进行业务和组织架构的演进。现在,放眼2016年将要面对的,我们猜测金融服务公司为了利益最大化进而不断整合大数据环境而言,他们面前的路依旧漫长。 银行家们也正在起草大数据战略,制定入门和随后的用例。 对于银行来说,大数据主要还是围绕提高客户情商,减少风险,符合监管。在可见的未来处于第一梯队的大型金融集团都会继续围绕大数据展开各种动作。在低端市场,一些中小型的公司(经纪、资产管理、区域银行、顾问等)能够更快速的适应大数据平台
CSDN授权转载 译者:袁璞 摘自:CSDN 2015 年对于银行和金融业公司来说是一个开局之年,在这一年中他们继续用大数据来帮助他们进行业务和组织架构的演进。现在,放眼2016年将要面对的,我们猜测金融服务公司为了利益最大化进而不断整合大数据环境而言,他们面前的路依旧漫长。 银行家们也正在起草大数据战略,制定入门和随后的用例。 对于银行来说,大数据主要还是围绕提高客户情商,减少风险,符合监管。在可见的未来处于第一梯队的大型金融集团都会继续围绕大数据展开各种动作。在低端市场,一些中小型的公司(经纪、资产管理
说到数据中台,大家肯定都不陌生,自从它突然在大数据圈走红之后,如果聊天中不提到数据中台,就好像落伍了。那么到底什么是数据中台?数据中台有哪些应用价值?又是如何建设的呢?
大数据时代,数据成为社会和组织的宝贵资产,像工业时代的石油和电力一样驱动万物,然而如果石油的杂质太多,电流的电压不稳,数据的价值岂不是大打折扣,甚至根本不可用不敢用,因此,数据治理是大数据时代我们用好海量数据的必然选择。
很多技术人总是抱怨 新技术/新框架/新概念 太多了,总是学不完,抱怨实在是学不动了。哈哈,这不,最近「 中台 」这么火热,要不要停止抱怨,再咬咬牙学一波?
工欲善其事,必先利其器。系统的解决大数据安全,必须建设一套符合大数据平台自身特点的事后安全审计体系,以统筹解决安全威胁,并进行系统性的安全威胁消除。通过借鉴国内外大数据平台安全体系建设经验,参考业界前沿的安全技术手段和经验,我们提出了数据安全审计层进建设体系。该体系以组织架构为基础,通过组织架构的信息需求,建立大数据安全审计框架。该安全审计框架自底向上依次建设“内容计算层、要点审计层、目标分析层”,并在建设过程中引入AI技术,构建基于AI技术的数据安全审计平台。
各个企业都认可信息技术部门对于企业发展的重要地位,但是,该部门往往不具有与核心部门同等的部门话语权。该问题的核心是,IT信息部门在现有模式下已经被更高的领导层定位成了业务支持部门,是一个花钱的成本中心。
作为一家老牌西安本土软件公司,西安弈聪信息技术有限公司(简称:弈聪软件)近年来在大数据领域布局颇多,技术背景出身的弈聪软件CEO卓建超从2016年开始讲弈聪软件定位为技术驱动型大数据公司,同时他对企业大数据服务项目有着独有的判断标准。近期笔者对弈聪软件针对大数据行业现状、竞争格局以及早期技术型公司的投资价值等方面进行专访,现摘选与各位分享。
回顾整个数据平台的发展,在每一个阶段所有数据类应用都会或多或少的都会有数据质量的困扰,数据标准更是难以落地。数据管理由于难度大,涉及方面多逐步成为重要不紧急的事情。 在海量复杂数据的场景下,如果没有有效的管理,那么大数据只能成为数据的沼泽。企业在大数据的投资只能换来低质量的大量无效数据,从而极大的影响企业的大数据战略。在大数据的时代,大家都在重视数据存储和大数据相关技术的同时,都开始注重建设数据管理能力。 传统的数据管理对于企业来确实较为复杂,虽然方法论没有问题,但是对于企业来说往往望而生畏,比如组织架构庞
大家好,我是一哥,周末有读者私聊我咨询了一些问题,遂想起了之前看过的一些关于数据湖的知识,下面是基于之前的所见和自己的思考而成文。
人类社会的每一次跨越式进步,都伴随着颠覆性的创新。今天,随着数字化迅猛推进,数字经济已成为新一轮的科技创新潮流。产业数字化转型不只是传统服务业和传统制造业的事,科技公司也同样迫切需要转型。大数据、芯片、人工智能……硬科技之战里,谁会成为引领者?中欧“科技浪潮”栏目收录了最前沿的观点,带你纵览科技新趋势。
2018年年底到2019年年初,一场组织变革的飓风席卷了国内各大互联网公司。阿里、腾讯、百度、京东、美团等先后拿出了几年来最大规模的组织调整计划。在这些变化中,一个值得关注的现象是,各大公司都不约而同地在组织架构中增设“中台”。
牛新庄,博士,中国民生银行总行信息科技部总经理,民生科技有限公司执行董事、总经理,作为银行信息科技领域的管理者和领军人物,他积极投身新时代、新金融、新服务模式下的科技引领事业,带领民生银行科技团队和民生科技有限公司探索科技金融创新模式,建设金融科技生态圈。众所周知,牛博士还是DB2领域的知名专家,著有《深入解析 DB2》,《DB2 数据库性能调整和优化》、《循序渐进 DB2》等畅销书。
大数据商业模式与组织架构 以德国电信为例 “一 切都将被数字化,数字化转型是企业转型必由之路:移动设备普及和数据量的爆炸式增长使得传统企业急需通过业务转型应对新形势和新竞争对手的挑战。数字化转型强调对
导读:本期“谁是数据英雄?传统企业大数据应用案例”给大家介绍《 兴业银行:信用卡背后的数据生命线》。兴业银行作为首批试水大数据的商业银行之一,借助大数据的关键技术和核心优势,通过对消费者行为的分析和
盖房前,先得设计图纸,知道如何盖这房?然后还要有好用工具(如水泥搅拌机、钢筋切割机)帮你盖好这房。盖房子离不开一个靠谱施工队伍,这里面涉及很多角色(泥瓦工、木工、水电工等等),人须高效协作,才能盖出好房。
主讲嘉宾:刘晨 主持人:中关村大数据产业联盟 副秘书长 陈新河 承办:中关村大数据产业联盟 嘉宾介绍: 刘晨:广州利为软件合伙人,从事数据治理软件产品研发与咨询服务。清华大学电子系本科、经管学院MBA。拥有数据治理领域六年以上从业经验。国际数据管理协会中国分会(DAMA China)核心工作组成员,国际信息和数据质量协会(IAIDQ)会员。译著有《DAMA数据管理知识体系指南》,编写《大型企业信息化工程项目管理实战》数据管理章节。 以下为分享实景全文: 主题汇报人: 刘晨:大家好,我是刘晨,来自于利为软件
在大数据、人工智能、区块链等新兴技术的驱动下,各家银行纷纷利用新技术制定数字转型改革战略,寻找差异化经营的可行模式。
什么是“三三制”? 三三制是抗日战争时期林彪提出来的,当时,鉴于当时八路军一窝蜂的班组自由冲锋经常被敌人优势火力压制,他提出了三三制战术。面对火力密度很高,战斗意志和素养都很强的敌人,不能再进行简单
业要实施大数据战略,需要从五大方面规划:1.制定大数据规划找准切入点;2.强化大数据领导力设立CDO;3.设计合理的大数据组织结构;4.搭建富有执行力的大数据团队;5.用制度和文化保障大数据实施。 本文作者: 傅志华/ 360公司大数据中心副总经理 制定大数据规划找准切入点 成功的大数据规划聚焦于四个核心要素:应用场景、数据产品、分析模型和数据资产。大数据规划第一个核心要素是应用场景的规划,企业需要确定不同业务投入大数据的优先级,确定大数据的切入点。在企业中,大数据应用场景包括业务运营监控、用户洞察与
近日,在刚刚出版的《腾讯大数据构建之道》新书中,腾讯首次对外披露了自身大数据核心技术体系架构和海量业务应用实践。作为国内大数据领域的一部前沿技术著作,该书汇集了腾讯在大数据领域几十位技术专家的思考和实战精髓,通过全面剖析自身在大数据领域的探索以及落地,为国内大数据从业者提供了一份极具价值的参考文献。 腾讯公司副总裁蒋杰表示:“从第一代的离线计算到以隐私计算、数智融合、云原生为代表的第四代大数据技术,腾讯大数据团队不断基于内部海量业务实践,打造领先的技术和产品服务内外部众多客户。未来,腾讯还将通过腾讯云持续开
大家好: 今天我带来的题目是微服务架构下的数据治理。 之前在群(注:普元云架构设计群)中分享过“微服务与元数据”的概念(注:详见【超详解PPT】元数据驱动的微服务架构(上),【超详解PPT】元数据驱动
👆点击“博文视点Broadview”,获取更多书讯 2020年9月,国务院国资委颁布了《关于加快推进国有企业数字化转型工作的通知》,对国有企业数字化转型提出具体要求,数字化转型成为企业发展的必由之路。 数字化的关键是驱动企业从业务、架构、技术、组织等方面全面且系统地改造升级,在这个改造升级的过程中,会涉及数据治理、数字化转型架构的设计、数据中台的建设等方方面面。 为了帮助大家更加系统地了解数字化转型的知识体系,本期书单就为大家带来10本与数字化转型相关的经典畅销书,快来看看都有哪几本吧! ----
在业务增涨过程中,每个企业不知不觉积累积累了一些数据。无论数据是多是少,企业都希望让“数据说话”,通过对数据的采集、存储、分析、计算最终提供对业务有价值信息。
据IDC预测,从2005年到2020年,全球数据量将从130EB增长到40ZB。大数据时代已经到来,如何更好地发挥数据资产的价值,对电信运营商来说是一个崭新的课题。 运营商大数据的价值主要体现在运营商内部应用和外部商业化。通过内部应用可以提高运营商的科学决策水平,实现决策从主观判断和经验判断为主转向数据驱动的科学决策;通过外部应用提升大数据价值,拓展运营商互联网经营思维,开创运营商收入蓝海,拓宽延展产业链,支撑决策,服务社会,惠及民生。 大数据的六大典型应用案例 公共交通:运营商利用成熟的GPS定位技术和
日前,中国信息通信研究院正式发布《城市大数据平台白皮书》,阐述了城市大数据的概念和内涵,分析了建设城市大数据平台对于破解智慧城市建设难题的意义,并介绍了我国城市大数据平台的发展现状。
4月20日,京东大数据来到了北京大学光华管理学院,这次由京东大数据部平台运营管理负责人葛胜利老师给北大光华管理学院的师生们带来主题为“电子商务大数据平台技术架构与产品架构”的专题讲座,为大家讲述京东大数据平台如何在短短几年的时间里突破技术难关,实现产品创新,建设高效、安全、稳定的大数据平台,并以数据支撑京东的快速发展。 讲座中,葛胜利从京东大数据平台的“使命、架构、产品、运营”四大方面出发,全面的剖析了其中的奥秘。 在讲到平台使命时,胜利总提到,大数据平台在京东集团中的战略地位很重要,因为京东的公司运营是由
关注DTCC有几年了,还是在当中学到了很多的干货。今年我的大部分时间也都是投入在了数据治理的学习和数据治理工具的调研中。也非常渴望有这种机会去了解一下国内顶尖公司这方面的前沿技术与应用。
上篇文章《漫谈大数据平台架构》(阅读原文查看)大家应该对大数据平台有了一个整体架构上的理解和认识,作为姊妹篇,本篇着重讲解大数据平台安全风险与建设。
数据猿导读 在当前金融大背景下,我国商业银行正处于大幅调整阶段,面临不确定、不稳定因素正在不断增加,监管机构与公众日益认识到运营风险正成为金融机构面临的最大威胁之一,建立高效准确的商业银行营运风险监测系统已经成为“标准配置”。 📷 本篇案例为数据猿推出的大型“金融大数据主题策划”活动(查看详情)第一部分的系列案例/征文;感谢 恒丰银行 的投递 作为整体活动的第二部分,2017年6月29日,由数据猿主办,互联网普惠金融研究院合办,中国信息通信研究院、大数据发展促进委员会、上海大数据联盟、首席
数据平台是企业进行数据分析和数据应用,从而实现数字化转型的核心基础设施。通常,数据平台包含数据采集与接入、数据存储与计算、数据管理、数据分析与挖掘、数据服务等功能。
领取专属 10元无门槛券
手把手带您无忧上云