数据服务业务是未来趋势,荣之联刚刚发布的大数据平台DataZoo有啥亮点?
现代商业竞争已经从渠道、资源向系统整体效率倾斜,而效率的竞争很大程度上来自于数据能力的支撑。 当我们从数据平台方的视角出发会发现演进路上存在着诸多挑战,比如: 1. 数据领域的生态非常庞大,针对不同场景在资源、数据规模、时效的权衡下会衍生出不同的架构和组件,以及随之带来的团队碎片化,设备资源的重复投入,数据一致性的焦虑,技术选型的困难和迁移的潜在风险; 2. 在伴随业务扩张的过程中,如何平滑而透明地解决伸缩性,用好自建以及混合多云资源;如何建设一站式多租户的数据工具链,在开发生产以及租户之间做好共享和隔离的
国家 2035 远景规划提出要加快全面数字化转型的步伐,而“大数据平台”是数字化转型的基础技术之一。经过六年多的探索和实践,微众银行打造了一套在金融领域“自主可控”的开源大数据平台。对于任何企业来说,建立和维护一个大数据平台都不是一件容易的事情,而建设一个有特色的、完整易用的大数据平台,显然更是一件技术难度极高的事情。InfoQ 采访了微众银行 WeDataSphere 主创团队,希望他们的实践经验能给大家带来一些启发和思考。
导语 联合国教科文组织国际非物质文化遗产大数据平台2.0版本,在原产品的基础进行了优化升级与版本迭代,已于2017年12月19日正式上线。 时值2017年末,联合国教科文组织国际非遗大数据平台2.0在各界热心人士的翘首以盼中终于上线了。经过在数据平台1.0基础上的优化升级,你们的期待,在这里,我们一步一步都要帮你实现。 📷 |开始之前,我们做了深入调研 想要实现这样一个产品并不容易,要兼顾全球所有的数据,同样还要兼顾到所有非遗相关的角色,为使非遗大数据库更能指导实际应用,我们进行了一系列深入的分析和调研。
日前,中国信息通信研究院正式发布《城市大数据平台白皮书》,阐述了城市大数据的概念和内涵,分析了建设城市大数据平台对于破解智慧城市建设难题的意义,并介绍了我国城市大数据平台的发展现状。
9月11日,在2020腾讯全球数字生态大会上,腾讯云副总裁刘煜宏透露,腾讯云大数据平台的算力弹性资源池达500万核,每日分析任务数达1500万,每日实时计算次数超过40万亿,能支持超过一万亿维度的数据训练。腾讯云不仅已经成为国内算力最强的云厂商,同时也是日实时计算量最大的公司。 腾讯云副总裁 刘煜宏 「 算力资源池达500万核,日实时计算量超40万亿」 基于多年在数字化方面的积累,腾讯云正在把腾讯多年来的能力沉淀对外开放。除了云计算、大数据、AI、安全、LBS、区块链等基础技术服务,以及支付、小程
导读:本期“谁是数据英雄?传统企业大数据应用案例”给大家介绍《 新奥能源:智能运营背后的数据价值链》。能源行业是国民经济中的支柱产业,也是产生海量数据并对数据分析有着重要依赖的企业。大数据为其提升管理
2020年9月11日,在2020腾讯全球数字生态大会上,腾讯云副总裁刘煜宏透露,腾讯云大数据平台的算力弹性资源池达500万核,每日分析任务数达1500万,每日实时计算次数超过40万亿,能支持超过一万亿维度的数据训练。腾讯云不仅已经成为国内算力最强的云厂商,同时也是日实时计算量最大的公司。
作者 | 宋文欣 以 Hadoop 为中心的大数据生态系统从 2006 年开源以来,一直是大部分公司构建大数据平台的选择,但这种传统选择随着人们的深入使用,出现的问题也越来越多,比如:数据开发迭代速度不够快、集群资源利用效率过低、新的开发工具集成非常复杂等。这些问题已经成为困扰企业数字化转型加速迭代和升级的主要障碍。 而传统大数据平台通常是以 Hadoop 为中心的大数据生态技术。一个 Hadoop 集群包含 HDFS 分布式文件系统和以 Yarn 为调度系统的 MapReduce 计算框架。围绕 H
数据作为数字经济时代的关键要素,仍有巨大潜能亟待释放。大量闲置数据资源、数据孤岛等问题让释放数据价值掣肘颇多,如何充分实现数据安全并提升数据融合能力已成为全球性的课题。 4月18日,由腾讯主办的“2021腾讯大数据高峰论坛”即将隆重举行,届时腾讯自研的第四代数智融合计算平台,以及联合腾讯研究院等各方撰写的《腾讯隐私计算白皮书2021》将正式对外发布。 本次会议邀请到中国科学院院士梅宏、中国信息通信研究院云计算与大数据研究所副所长魏凯、腾讯数据平台部总经理蒋杰、腾讯数据平台部副总经理刘煜宏、埃森哲战略与
大数据就字面意思来理解,就是庞大的数据。海量的数据信息无法透过目前现有的技术进行数据的分类采集,应运而生了大数据平台,帮助企事业单位及政府、学校、金融行业等提供专业的大数据采集、存储与计算、品牌监控等等服务,帮助企业发展,建立良好的品牌形象。
前面已经给大家讲了《从0到1搭建大数据平台之数据采集系统》、《从0到1搭建大数据平台之调度系统》,今天给大家讲一下大数据平台计算存储系统。大数据计算平台目前主要都是围绕着hadoop生态发展的,运用HDFS作为数据存储,计算框架分为批处理、流处理。
在大数据的风口,起飞的为什么是360?这也许是很多人的疑问,作为大数据业界的弄潮儿,360大数据平台是如何演进的,QDAS是缘何诞生,以及再次变革的原因又是什么?
本文是个人在从零搭建部门数据及运营平台的过程中的笔记。随着互联网规模不断的扩大,数据也在爆炸式地增长,各种结构化、半结构化、非结构化数据的产生,越来越多的企业开始在大数据平台下进行数据处理。
2019年1月,CDH 背后的公司 Cloudera 宣布与 Hortonworks(一家围绕着大数据平台去做发行版的公司)合并,形成了新的 Cloudera 公司。 两家公司合并之后,迅速对产品进行了整合推出了新一代产品——CDP,同时也宣布在2021年底结束对 CDH6 的服务支持。 这给国内企业敲醒警钟,要将以往使用的 CDH 大数据平台进行全面的迁移。 而时间拉到2021年12月29日,距离元旦仅三天,央行发布的一纸公文——《金融大数据平台总体技术要求》,在金融圈里炸开了锅。 以前的文件可能是从战略
导读 近年来大数据业务规模迅速增长,为大数据平台运营治理带来了新的挑战:海量大数据任务的治理,缺乏统一、标准的数据与评估模型和治理工具,难以支持对大数据任务执行效率、稳定性等进行持续优化。腾讯大数据平台摸索出数据+算法驱动的“平台自治”方案,对于万亿级大数据分析逐步实现“自动化运营”,以一站式的自诊断、自优化、自管理能力,大大降低大数据产品使用门槛。
本篇内容将通过三个部分来介绍工商银行实时大数据平台建设历程及展望。 一、工行实时大数据平台建设历程 二、工行实时大数据平台建设思路 三、展望
大数据正在改变全球商业运作方式,随着对合格大数据人才需求的增加,大数据行业的发展空间和待遇也越来越好,很多想转行大数据的入门学习者,不太清楚大数据的相关的岗位有哪些,今天加米谷大数据就来说个大概。
与英特尔合作建立数字化零售联合实验室、发布《京东大数据技术白皮书》、推出针对线下零售、区块链等领域的多款产品,联合行业内包括英特尔、谷歌、浪潮、联想等顶尖互联网企业,以及中国计算机协会、中关村多媒体软件园和清华大学等高等学府,共同交流以大数据为核心在门店科技、边缘计算、区块链等领域的前沿探索——在12月7日京东举办的首届大数据峰会上,京东打造的智能零售大数据“操作系统”全面亮相,展现出技术和应用两个层面上的强劲实力。
北京时间2月5日,在由新浪网主办的“2014新浪全媒体高峰论坛”上,缔元信.网络数据CEO秦雯女士发表了题为“媒体大数据营销”的演讲,从实操层面分享了大数据在媒体端的应用。 以下是演讲观点精粹,与大家分享: 观点一:未来互联网市场≠手机一统江湖 对于手机未来就是一切这个观点,秦雯表示不完全认同。原因有二,其一,不同的应用场景有不同的使用终端。其二,未来将会出现多种移动终端,手机未必是移动终端的终结者。 观点二:每一个新媒体都是大数据平台 针对媒体同行对大数据与己
<数据猿导读> 艾美仕健康与Cloudera 达成合作,将用于打造医疗大数据平台;人民日报与四川日报合作,开启西部媒体大数据新篇章;eBay收购SalesPredict专注人工智能,或向亚马逊“隔空叫
本文作者 耿立超,架构师,14年IT系统开发和架构设计经验,CSDN博客专家,著有《大数据平台架构与原型实现:数据中台建设实战》一书。 原文链接: https://laurence.blog.csdn.net/article/details/106851739 故事缘起 我们需要工程原型! 从2008年Hadoop成为Apache的顶级项目开始,大数据技术迎来了十多年的持续发展,其间随着Spark的异军突起,整个大数据生态圈又经历了一次“装备升级”,变得更加完善和强大。 今天,很多企业已经完成了早期对大数据
大数据能称之为一个时代,可见维克托•迈尔•舍恩伯格对大数据的褒奖。当然,更多的人希望通过大数据创建新的产业群,将之应用到医疗、教育、科技等多个领域。大数据应用已经成为互联网创业者竞争的新阵地,如何充分利用大数据和借助大数据掘金成为草根创业者关注的焦点。在已有的领域中,包括可穿戴设备、移动APP等领域,部分互联网创业者都尝到了大数据的甜头。 百度大数据助力小说网站顺利商业化 互联网创业者的机会并不少,但是要想真正“拥抱”大数据,并从大数据的红海中分一杯羹,是非常困难的。所有人都知道,
关注技术博客的读者肯定有这样感受,Spring Boot 相关的文章铺天盖地。 仿佛一切都在证明,Spring Boot 已成为Java 程序员必备技能。 未来 Spring Boot 的发展还会更好,说 Spring Boot 是当今最重要的 Java 框架也不为过。今天我们就来推荐一些李刚老师的高能课程,一站式学到并掌握Spring Boot所整合的各种技术!内容涉及: MongoDB RabbitMQ Neo4j Kafka 全文检索 即便你是入门水平,完整学习后,也将能够在企业级Spring Boo
【案例】国美金控:让消费金融可视更可靠
大数据技术栈的发展是一个不断演进的过程,从最初的数据仓库、商业智能,到分布式计算和实时计算,再到如今的人工智能,每一阶段的技术栈都有其独特的应用场景。
17日,许多人关注到滴滴正式上线共享单车平台,北京等地的用户可通过滴滴获取ofo等共享单车服务。同一天,ofo推出“奇点城市慢行交通大数据平台”,面向全国主要城市的相关管理部门开放。具体来说,各地的交通管理部门可以在这个平台查看ofo人工智能大数据系统中单车数量、轨迹、热力潮汐图分析等详尽信息,进而对共享单车进行科学管理。在我看来,面向管理部门提供开放数据平台,将会成为共享单车平台的共同选择,此举也将改变交通出行行业。 人工智能+大数据彻底改变交通出行 交通出行行业正在掀起一场变革,共享出行、共享单车只
近日,携程旅游大数据服务平台连续通过三轮评审,成功入选工业和信息化部的“大数据优秀产品、服务和应用解决方案”。据了解,该平台聚合了携程集团多项旅游行业数据,对内服务集团各业务线、对外服务各地旅游企业、政府机关、中央部委、及央地媒体,成为国内最具影响力的旅游业大数据服务平台。 随着社会和经济的发展,旅游业已成长为世界经济中发展势头最强劲和规模最大的产业之一。据世界旅游业理事会预计,到2020年,全球国际旅游消费收入将达到2万亿美元。 然而,传统旅游业的诸多痛点也在制约着行业的发展壮大,如细分行业需要整体化运营
机器之心原创 作者:蛋酱 930 变革两年后,被寄予厚望的腾讯云在 To B 这张考卷上都写了什么? 从「深圳市腾讯计算机系统有限公司」注册成立,到成为服务用户最多的中国互联网企业之一,腾讯经历了互联网发展的黄金二十年。拥有众多国民级应用、十多亿 C 端用户的同时,这家公司对于自身技术的披露却一向低调。 当然,事情也正在发生变化:两年前,腾讯宣布正式「拥抱」产业互联网,并进行了第三次组织架构调整,史称「930 变革」。这家科技巨头积淀多年的技术能力,终于越来越多地从幕后走到台前,被寄予厚望的腾讯云,成为腾
数据猿导读 在金融服务业开放政策和云计算、大数据技术双重推动下,互联网金融领域的跨界融合正在成为一种趋势。但在互联网金融与普惠金融业务中存在的风险不可小觑,需要借助大数据手段进行智能营销和风控。 本篇
数据猿导读 全国首个“大数据试验场”联盟问世,落户上海;河北省推出全民健身大数据平台“e众体育”;数据堂正式切入医疗大数据领域,拟500万元收购食药网10%股份……以下为您奉上更多本周大数据热点事件
2017年6月10-11日,SDCC 2017·深圳站http://bss.csdn.net/m/topic/sdcc_2017/shenzhen#register 火热开启,拥有互联网应用架构实战峰会、大数据技术实战峰会两大峰会,秉承干货实料的内容原则,邀请业内顶尖的架构师和数据技术专家,共话高可用/高并发/高性能的系统架构设计、分布式缓存服务、Web App前端架构、消息引擎架构、弹性计算、大数据平台构建、优化提升大数据平台的各项性能、Spark部署实践、企业流平台实践,以及实现应用大数据支持业务创新发
声明:本文参考了淘宝/滴滴/美团发表的关于大数据平台建设的文章基础上予以整理。参考链接和作者在文末给出。
新版本的使用文档已在社区中推送,大家可以随时下载查阅,欢迎大家体验新版本功能 **(喜欢我们的项目欢迎大家点个 Star)**,体验地址:
今天我们来看一下淘宝、美团和滴滴的大数据平台,一方面进一步学习大厂大数据平台的架构,另一方面也学习大厂的工程师如何画架构图。通过大厂的这些架构图,你就会发现,不但这些知名大厂的大数据平台设计方案大同小异,架构图的画法也有套路可以寻觅。
许多大型企业都有结构化大数据,围绕大数据,大型互联网企业和初创企业“百家争鸣”,各家同质应用竞争日益激烈,服务范围涵盖大数据应用、硬件、技术等,随着数据爆炸性增长,为了帮助企业将数据能力与业务结合,提升效率、降低成本乃至最终提升盈利能力,业务部门亟需利用线上实时反馈数据辅助决策支持以提高服务水平,大数据的统一正成为使用传统方法管理的难题。而Alluxio在大数据系统性能提升以及生态系统多组件整合的进程中扮演着重要角色。
数据猿导读 大数据客户行为实时分析系统采用大数据与实时流处理平台技术,从营销、风控、客户体验等多个业务视角满足渠道业务分析决策需求,帮助银行以产品为核心的经营模式,转变为以客户为核心的经营模式,最终实现向客户提供个性化、场景化的智能金融服务。 📷 本篇案例为数据猿推出的大型“金融大数据主题策划”活动(查看详情)第一部分的系列案例/征文;感谢 恒丰银行 的投递 作为整体活动的第二部分,2017年6月29日,由数据猿主办,上海金融行业信息协会、互联网普惠金融研究院联合主办,中国信息通信研究院、
为了分享过去一年云原生产业联盟(CNIA)在标准建设、评估测试、技术研究、实践合作等方面的工作成果、探索行业最新趋势动态,云原生产业联盟于2023年1月9日举办了2022年度线上年会,发布了“大数据云原生能力成熟度模型”,并进行了标准解读。 云原生时代,数据系统的技术架构正在多样化用户需求的驱动下快速演进。容器、Serverless、CI/CD、Kubernetes等云原生技术与大数据系统的深度融合,可以有效应对海量、异构、实时的用户数据处理请求。充分利用云原生平台能力实现大数据系统的“云原生”转型升级,已
<数据猿导读> Google深圳体验中心启动,助推中国品牌走向国际化;亚马逊玩起“擦边球”,被爆将在宁夏建立超大规模数据中心,疑似违规?eBay收购SalesPredict专注人工智能,或向亚马逊“隔
小伙伴们选择大数据平台,想必是传统的关系型数据库无法满足业务的存储计算要求,面临着海量数据的存储和计算问题。
4月20日,京东大数据来到了北京大学光华管理学院,这次由京东大数据部平台运营管理负责人葛胜利老师给北大光华管理学院的师生们带来主题为“电子商务大数据平台技术架构与产品架构”的专题讲座,为大家讲述京东大数据平台如何在短短几年的时间里突破技术难关,实现产品创新,建设高效、安全、稳定的大数据平台,并以数据支撑京东的快速发展。 讲座中,葛胜利从京东大数据平台的“使命、架构、产品、运营”四大方面出发,全面的剖析了其中的奥秘。 在讲到平台使命时,胜利总提到,大数据平台在京东集团中的战略地位很重要,因为京东的公司运营是由
<数据猿导读> 中国移动(浙江)大数据专家汤人杰在2016年中国信息通信大数据大会上发表了以“浙江移动大数据平台的践行之路”为主题的演讲。他讲到,浙江移动的平台今年主要是PAAS层的建设,主要是两块,
通过部署和使用大数据分析工具,分析流程可以帮助公司提高运营效率,产生新的利润,获得竞争优势。企业可选择的数据分析应用程序有很多。比如描述性分析善于描述已发生的事情,揭示因果关系。描述性分析主要输出查询、报表和历史数据可视化。
在业务增涨过程中,每个企业不知不觉积累积累了一些数据。无论数据是多是少,企业都希望让“数据说话”,通过对数据的采集、存储、分析、计算最终提供对业务有价值信息。
后web2.0时代,互联网、物联网每天都在生产大量数据,人们对于这些庞大数据资源的价值渴求,使得“大数据”的概念得以问世。如果说“数据”是支撑未来核心技术的基础“原材料”,那么“大数据”正在演变成一种战略资源,当“用户需求导向”成为企业共识,大数据的收集、挖掘和分析开始支撑企业的业务运转、营销策略乃至战略方向,数据成为企业愈加珍视的宝贵资产。 目前,建设有大数据平台的企业不在少数,对比传统数据库,大数据平台数据大量集中,且蕴含更高价值,其安全建设要求明显更高。然而,由于大数据平台使用非结构化数据库类型,以及
腾讯云小微AI助手 助力文旅行业智慧化转型 5月22日,腾讯云小微首次在腾讯全球数字生态大会平台亮相,腾讯智能平台产品部副总裁李学朝表示,腾讯云小微智慧文旅解决方案从云南出发,开启在文旅领域的全面布局。 在云南省政府和腾讯公司联合打造的“一部手机游云南”项目中,腾讯云小微提供了多语种智能导览、智能客服等多种功能,游客可通过小程序、手机app、机器人、自助服务台等渠道,获取相关服务。 凭借云小微的亿级知识图谱,游客可以获得更丰富的景点解答;智能闲聊应用能力还可以将景区IP拟人化,为游客提供趣味生动的
大数据已不再是一个单纯的热门词汇了,随着技术的发展大数据已在企业、政府、金融、医疗、电信等领域得到了广泛的部署和应用,并通过持续不断的发展,大数据也已在各领域产生了明显的应用价值。 企业已开始热衷于利用大数据技术收集和存储海量数据,并对其进行分析。企业所收集的数据量也呈指数级增长,包括交易数据、位置数据、用户交互数据、物流数据、供应链数据、企业经营数据、硬件监控数据、应用日志数据等。由于这些海量数据中包含大量企业或个人的敏感信息,数据安全和隐私保护的问题逐渐突显出来。而这些问题由于大数据的三大主要特性而
领取专属 10元无门槛券
手把手带您无忧上云