这里整理了下这些年的知识储备,给一些刚迈入架构师或想要进入架构师行业的同学,一点点参考。
本文精选26个经典的工业互联网+人工智能案例,涉及的企业是业界主流一线企业,供大家参考学习。、
今天我们来看一下淘宝、美团和滴滴的大数据平台,一方面进一步学习大厂大数据平台的架构,另一方面也学习大厂的工程师如何画架构图。通过大厂的这些架构图,你就会发现,不但这些知名大厂的大数据平台设计方案大同小异,架构图的画法也有套路可以寻觅。
4月25日,第四届数字中国建设峰会在福州开幕。本届峰会以“激发数据要素新动能,开启数字中国新征程”为主题,在闽江之畔绽放新一轮数字化建设的澎湃浪潮。
Twitter是最早一批推进数字化运营的硅谷企业之一,其公司运营和产品迭代的很多功能是由其底层的大数据平台提供的。图7-2所示为Twitter大数据平台的基本示意图。
声明:本文参考了淘宝/滴滴/美团发表的关于大数据平台建设的文章基础上予以整理。参考链接和作者在文末给出。
测试是产品发布上线的一个重要环节, 但随着业务的不断壮大和快速迭代, 每次上线需要回归的功能会越来越多, 周期越来越长, 测试同学的压力会越来越大, 老板越来越不满意, 恶性循环就此开始...
自从19世纪匈牙利籍产科大夫伊格纳兹•赛默维斯Ignaz Semmelweis发现产褥热可以经过医生双手传播以来,洗手已经成了降低医院感染最简单最有效的方法和规定,并拯救了无数病人的生命。但是今天,每年仍有近200万人在医院染上传染病,很大一部分原因是医护人员忘记洗手(或者没有严格按照程序洗手)。这个遗留上百年的老大难问题有望在大数据时代彻底得到根治。 近日,根据GigaOM的报道,阿拉巴马州亨兹维尔市的一家传感器网络公司开发出一个基于传感器的物联网+大数据+云计算平台——Synapse Wireless(
何为软件架构?不同人的答案会有所不同,而我认为一个好的软件架构除了要具备业务功能外,还应该具备一定的高性能、高可用、高伸缩性及可拓展等非功能需求。而软件架构是由业务架构和技术架构两部分组成,因为有了业务结构才会催生出软件架构,进而来满足业务上的需求,所以,在做软件架构设计时,需要分为业务架构设计和技术软件架构设计,二者不可分离哦!那么,接下来就以本人实际工作中的电商平台为例,进行说明电商平台架构设计,因为不同行业产品系统不同业务不同,而催生的系统软件的实现要求及架构设计就不同了!
2021年8月20日,徐汇区城市运行“一网统管”平台建设项目公开招标公告发布,预算115400000.00元。 采购内容:主要包括指挥大屏端建设、业务中屏端建设、移动小屏端建设、基础能力支撑建设等。 招标范围包括:上述采购内容所涉及的系统设计、产品采购、安装到位、软件开发部署、系统集成、调试、验收合格、培训及保修等。 服务地址:徐汇区城市网格化综合管理中心指定地点。 中标结果 2021年9月16日中标成交结果公告发布,腾讯云计算(北京)有限责任公司114990000.00元中标。 建设目标 聚焦治理数字
本文首先介绍了大数据架构平台的组件架构,让读者了解大数据平台的全貌,然后分别介绍数据集成、存储与计算、分布式调度、查询分析等方面的观点,最后是专家眼里大数据平台架构的发展趋势。
👆点击“博文视点Broadview”,获取更多书讯 最近有不少小伙伴在问有没有架构类的书单,博文菌收到了大家的需要,这就安排上! 俗话说:不想当架构师的程序员不是好程序员。成为架构师几乎是每位开发者入行初期的共同理想。 如何站在架构的视角去看代码世界,如何依托企业业务需求搭建可高用架构,云端架构的设计原则有哪些…… 本期书单为你带来今年出版的10本架构类好书,希望能够帮你建立架构思维,解开架构谜团! ---- 01 ▊《业务架构・应用架构・数据架构实战(第2版)》 温昱 著 国内知名架构专家创新
在发布CarEye车辆管理云平台2.0以后,我就开始在考虑下一代智能云平台架构问题。其实在2年前,我就做了一个功能架构图。目前看除了生态没做好,我们的功能基本上已经实现。随着业务发展以前的单机架构已经不能满足我们的需要。
在用户画像平台架构图&构成?中,我详细描述了用户画像的构成,今天聊聊用户画像的质量保障,希望对大家有所帮助。
介绍 容器技术是这几年IT界的热门话题,各行各业都在研究如何通过容器提升企业软件开发、交付和管理的效率。Docker和Kubernetes的成功使得仅凭几个人也可以轻易管理一个包含上千台机器的庞大的计算集群,并且在这个庞大的集群上部署各种各样的应用。云计算催生了容器技术,而容器技术也改变了云计算 我在Red Hat参与了各种类型的容器项目,见证了客户使用容器平台满足其各种各样的需求。容器技术的应用可谓百花齐放,范围涉及微服务、DevOps到最近的人工智能和深度学习 过去十多年的云计算的历程,其实是一个“去基
我在上一篇文章中(参见科技云报道,“云不一定节省成本”——云产业发展观察与企业级iaas建设实践)已经分析了企业级IaaS平台架构设计中要考虑的一系列因素,其中提及了对于遗产系统的纳管——这也是私有云区别于公有云的主要特点之一。在当前需要建设IaaS私有云平台的企业中,往往要考虑多种遗产系统、异构虚拟化资源的统一纳管。
作者简介 刘丹青,携程信息安全部高级开发工程师。2014年加入携程,主要负责验证码、风控数据平台的开发设计工作,提供性能测试与性能优化的相关支持。 前言 近几年,随着电商和互联网金融的发展,各大互联网企业也在逐步加强风控体系的建设,为公司的运营保驾护航。在携程,各BU经常受到恶意注册、登录、恶意刷单、扫号等行为,所以建设了一套数据平台,希望能够从数据中挖掘出有用的信息,不仅可以为风控系统提供数据支持,还可以为其他服务提供支撑。 本文主要从架构和业务的角度介绍下携程信息安全团队的数据平台建设之路,以及如何为
笔者在 2021 年底,曾应科技媒体 InfoQ 的邀请,总结了 2021 年的数据平台架构(详见:解读数据架构的 2021:大数据 1.0 体系基本建成,但头上仍有几朵乌云),提出了的 2021 年的 5 个热点、4 个趋势和 3 个挑战。在过去的两年,数据架构领域发生了很多重大变化(很多是拐点级变化),例如大模型技术突破、向量检索成为热点、半 / 非结构化类 Dark Data 开始被关注等等。作为数据平台从业者,笔者经常被问到“下一代数据平台发展趋势?”或者“AI 平台和数据平台是否应该一体”等问题。
8月30日,在2018浪潮技术与应用峰会(Inspur World 2018)上,浪潮发布OpenStack AI云平台,实现了在OpenStack云平台上快速、轻松的构建AI开发能力。
我在一次社区活动中做过一次分享,演讲题目为《大数据平台架构技术选型与场景运用》。在演讲中,我主要分析了大数据平台架构的生态环境,并主要以数据源、数据采集、数据存储与数据处理四个方面展开分析与讲解,并结合具体的技术选型与需求场景,给出了我个人对大数据平台的理解。本文是演讲内容的第一部分。 大数据平台是一个整体的生态系统,内容涵盖非常丰富,涉及到大数据处理过程的诸多技术。在这些技术中,除了一些最基础的平台框架之外,针对不同的需求场景,也有不同的技术选择。这其中,显然有共性与差异性的特征。若从整个开发生命周期的角
目录: 什么是大数据 Hadoop介绍-HDFS、MR、Hbase 大数据平台应用举例-腾讯 公司的大数据平台架构 “就像望远镜让我们能够感受宇宙,显微镜让我们能够观测微生物一样,大数据正在改变我们的
作者简介 郭建华,携程技术中心软件研发工程师,2016年加入携程,在大数据平台部门从事基础框架的研究与运维,主要负责HDFS、Alluxio等离线平台的研发运维工作。 进入大数据时代,实时作业有着越来越重要的地位,并且部分实时和离线作业存在数据共享。实践中使用统一的资源调度平台能够减少运维工作,但同时也会带来一些问题。 本文将介绍携程大数据平台是如何引入Alluxio来解决HDFS停机维护影响实时作业的问题,并在保证实时作业不中断的同时,减少对HDFSNameNode的压力,以及加快部分Spark SQL作
本文介绍了Kubernetes的基本概念、架构和安装方法,以及Kubernetes如何管理容器和集群。同时,还探讨了Kubernetes中的各种对象,如Pod、Service、RC等,以及如何使用这些对象来管理容器和集群。
平台简介 该智能开关平台包括服务端、硬件端、PC端和安卓端。硬件使用ESP8266模块,成本相对较低,可以发挥想象力,搭配各种传感器,实现自己的智能终端。 应用场景:智能开关的应用场景比较广泛,一般家里通电即可使用的设备都能搭配该模块,升级为网络版,进行联网控制。常见的就是智能开关、智能插座和智能灯,搭配土壤湿度传感器可以实现智能浇灌,搭配温湿度传感器可以监控温湿度,其他传感器例如:触控开关、雨滴探测、声音传感器、光敏传感器、烟雾传感器、火焰报警、人体感应等等。 📷 智能开关目前支持的功能: 远程控制 掉电
简介 近日重温了《深度学习在腾讯的平台化和应用实践(全)》,感兴趣可以在这里阅读 https://zhuanlan.zhihu.com/p/21852266 ,里面介绍了腾讯在深度学习平台基础架构上细致的工作,本人在2016 C++及系统软件大会上也分享了小米cloud machine learning平台的细节,在此给大家总结和对比一下。 腾讯Mariana平台 在前面提到的文章中,已经详细介绍了腾讯深度学习平台,也就是Mariana项目的实现细节了,这是一个真正意义上的平台。在参考文献上也体现出来,腾讯
随着互联网的发展,“云”这一概念已经成熟并已结出了累累硕果,造就了亚马逊,微软,谷歌这样的行业巨头。
平台工程已经积累了提供跨组织领域的复杂解决方案的经验和知识。这些大规模的跨域解决方案为交付带来了更多复杂性。我们的经验表明,通过对问题采取不同的观点,您可以提供的不仅仅是技术成果。
云知声 Atlas 团队在 2021 年初开始接触并跟进 JuiceFS 存储,并且在早期已经积累了丰富的 Fluid 使用经验。近期,云知声团队与 Juicedata 团队合作开发了 Fluid JuiceFS 加速引擎,使用户能够更好地在 Kubernetes 环境中使用 JuiceFS 缓存管理能力。本篇文章讲解如何在 Kubernetes 集群中玩转 Fluid + JuiceFS。
###相同点:### 首先:不管是EasyDSS流媒体服务器还是EasyDSS云平台,都是可以配合EasyNVR来完成摄像机的公网直播的、微信直播等功能的; 其次:都是Easy Darwin团队为了解决更多的使用场景而研发出来的流媒体方案。 再次:都是立足于视频的能力层,有接口开放,方便用户的二次开发 ###不同点:###
在之前的文章中,我们提到车联网 TSP 平台拥有很多不同业务的主题,并介绍了如何根据不同业务场景进行 MQTT 主题设计。车辆会持续不断产生海量的消息,每一条通过车联网上报的数据都是非常珍贵的,其背后蕴藏着巨大的业务价值。因此我们构建的车辆 TSP 平台也通常需要拥有千万级主题和百万级消息吞吐能力。
近年来,随着银行业务场景的不断丰富、业务规模的不断扩张,用户线上线下交易大幅上升,数据量与数据种类愈加丰富,大量创新型数据分析和应用场景出现,对分析型数据库的存储与计算能力提出了更复杂的需求,尤其在对实时数据价值的深入挖掘、数据库查询与分析性能的提高上提出了更高要求。为满足以上需求,银行纷纷开始重塑数据库体系,对已有分析型数据库进行改造,在支撑业务需求的同时简化架构。
今天有大事要宣:GeekPwn 云安全挑战赛开放赛阶段已经启动啦! 这是 GeekPwn 联合腾讯安全云鼎实验室发起首个基于真实云平台的云安全挑战赛,覆盖云计算“全栈”环境,旨在提高云计算服务安全性。 经过多年的发展,云计算以其配置灵活、高可用性、业务弹性等特性成为企业 IT 建设的首选架构。但随应用普及而来的云安全问题也日益凸显,服务中断、数据泄露等安全事件的发生极大影响企业业务。 全球首个“全开放”云安全挑战赛 作为首个基于真实云计算平台架构和技术的安全挑战赛,本次比赛不仅鼓励安全研究
在《Drools7 规则引擎视频教程》的交流群中,有同学提出这样的问题:如果不想使用Drools官方提供的Workbench和KIE-Server进行规则的管理,而自行进行相应系统研发,该如何设计相应的平台架构呢?
只有设备接入到网络里面,才能算是物联网设备。这里涉及到2个关键点:接入方式以及网络通信方式。
腾讯WeMake工业互联网平台基于强大的数据、算力、算法与连接能力,并叠加上大量的工业Know-how, 机理模型与OT技术,搭建了一套强大的工业互联网平台架构。应用和数据是企业的核心资源,如何保证应用和数据的可靠性、安全性是腾讯WeMake最关心的问题之一。出于安全考虑,多数用户强调“数据落本地”,单靠数据中心难以满足其需求。此外,随着物联网技术的发展,平台中大量的智能终端位于网络边缘,集中计算模式不能满足所有应用场景。基于以上问题,腾讯WeMake工业互联网平台选用了边缘容器打造了一套安全高效的工
2023年5月29日至6月1日,全国信息安全标准化技术委员会(以下简称“信安标委”)2023年第一次“标准周”活动在云南昆明举行。此次活动聚集了全国顶级的网络安全标准专家、学者和业界领袖,共同探讨网络安全标准领域的前沿议题和最佳实践,为数字经济提供坚实的安全保障。
近日,由金科创新社主办,全球金融专业人士协会支持的“2023鑫智奖·第五届金融数据智能优秀解决方案评选”榜单正式发布。腾讯安全申报的“SOC+基于新一代安全日志大数据平台架构的高级威胁安全治理解决方案”获评“鑫智奖·网络信息安全创新优秀解决方案”。
本文将对 VLAN(Virtual Local Area Network,虚拟局域网)和 VxLAN(Virtual eXtential LAN,虚拟可拓展局域网)进行探究。值得一提的是,虽然 VLAN 和VxLAN 这两个名字非常接近,不过其解决的问题范畴是不同。
企业数据架构师不应构建大型集中式数据平台,而应创建分布式数据网格。 ThoughtWorks 的首席技术顾问 Zhamak Dehghani 在旧金山 QCon 的演讲和相关文章中表示,这种方法的改变需要范式转变。随着数据变得越来越普遍,传统的数据仓库和数据湖架构变得不堪重负,无法有效扩展。Dehghani 认为,分布式数据网格方法可以通过采用面向领域的数据所有权来克服这些固有的低效率。 “我建议下一个企业数据平台架构是分布式域驱动架构、自助平台设计和数据产品思维的融合。” 她的演讲包括一些现实世界的例子
转眼新的一年又来了,趁着这段时间总结下2017这一年的工作经验,避免重复踩坑。MOB数据采集平台升级也快经历了半年时间,目前重构后线上运行稳定,在这过程中挖过坑,填过坑,为后续业务的实时计算需求打下了很好的基础。 一、升级与重构的原因 📷 旧有架构 上图为旧有架构,主要服务于Hadoop2.x离线计算(T+1)以及Spark的实时计算(T+0),但在数据采集、数据流动、作业调度以及平台监控等几个环节存在的一些问题和不足。 数据采集: 数据采集平台与数据统计分析系统分离,不能统一管理数据流向,并且消耗服务资源
机器学习是当前领先的 AI 范式,到目前为止取得了非常可观的成就,当前机器学习也是一个非常时髦的话题。 2021 年 12 月火山引擎云产品发布会上正式发布了 AI 全系产品,其中的 AI 开发平台就是全流程、高效率、高性能的机器学习平台。该平台提供从数据准备到模型训练、再到推理整个服务;通过 RDMA 网络直连上万张 GPU 和自研的分布式训练框架,可以将 GPU 的资源利用率加速到 90% 以上,极大提升性能的同时降低了使用成本;提供完善的工具链、全功能在线的 IDE,包括端云协同的开发环境,以及本
根据文章内容总结的摘要
导语: 今天与大家一起探讨如何基于Python构建一个可扩展的运维自动化平台,也希望能与大家一起交流,共同成长。 此次分享将通过介绍OMServer、OManager具备的功能、架构设计、模块定制、安
参加活动赢取话费和一个月免费会员 点击底部阅读原文,参加PPV课玩转可视化图表,赢取话费和PPV课一个月免费会员,精品课程免费看! 目录: 什么是大数据 Hadoop介绍-HDFS、MR、Hbase
当下,边缘计算正在兴起,并呈现出三个大的趋势,一是 AI、IoT 以及传统业务和边缘计算正在紧密结合;二是边缘计算作为云计算的延伸,正在发生着有机结合;三是基础设施的不断完善和发展正在促进着边缘计算的进步。 在这些大趋势下,边缘计算的形态、规模、复杂度都在日益攀升,而传统的运维能力与手段越来越难满足其创新发展需要。 同时,因为数据隐私、应用响应时延、带宽成本等多方面原因,边缘计算越来越成为云计算的重要补充。通过边云协同方式,应用能够取得体验、成本和安全方面的平衡。我们不难发现,业界主流云厂商、电信运营商均
架构师,我想很多人都知道,其实该职位头衔在最早的IT领域是没有的,它是近些年来由互联网的发展所引发的需求,因为现阶段的数据量及高并发的活跃好动,引起了不少传统的技术人员的力不从心,企业愈发关注到了系统
架构设计需要注意的地方,不是怎么把架构搭建起来,而是必须根据业务需求,严格分析,实现该需求需要什么技术会更好及更长远发展的考虑;
领取专属 10元无门槛券
手把手带您无忧上云