首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

数据库智能探索与实践

在业务的驱动下,美团点评DBA团队经历了从“人肉”到工具化、产品化、自助化、自动化的转型之旅,也开始了智能数据库领域的思考和实践。...本文将介绍美团点评整个数据库平台的演进历史,以及我们当前的情况和面临的一些挑战,最后分享一下我们从自动化到智能过渡时,所进行的思考、探索与实践。...换句话来说,智能不用报警,通过看报表就能知道可能要出事了,能够把故障消灭在“萌芽”阶段;第二,传统是被动接受,而智能是主动出击。...但主动出击不一定是通过DBA去做,可能是系统或者机器人操作;第三,传统是由DBA发起和解决的,而智能是系统发起、RD自助;第四,传统属于“人肉救火”,而智能属于“智能决策执行”;最后一点...w=1340&h=672&f=png&s=274797] 上图是传统维和智能的特点分析,左边属于传统,右边属于智能

4.1K10

=平台+数据

会比开发更加重要 的发展日新月异,曾几何时,仅仅是被认知为跑机房,装系统,设计网络,给开发擦屁股。...但是现在运变得极度重要,职责也更加细化,譬如稍大点的公司就将划分为基础,网络,DBA, 应用,架构师。...其实我个人认为系统架构师应该都安排在运里,开发团队应该率属于团队才好。 进入云时代后,中等层次的慢慢会被淘汰,底层次的会越来越少,高水平的需求量则日益增长。为什么这么说呢?...这其实是反应对的要求会越来越高,不但要掌控产品的稳定性,做好服务保障的最后一公里,还要具有系统设计的能力。 现有发展方向的问题 也越来越朝着平台化,自动化,自助化方向发展。...前面讲的是基础平台层面的,我们其实更多的是要对应用进行更细致的观察。在Borg之上的应用可以是非常复杂的,应用的关联也是非常复杂的,微服务的兴起导致链路非常长,所以我们有了全链路追踪的需求。

3.5K50
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    为什么要搞数据库平台

    实际上很多企业都有想做一套数据库平台的想法,主要基于以下的一些原因 1 ORACLE 的淘汰,导致更换其他数据库后,数据库的台数和数量等都有上升,管理手段和方式在使用纯手工的方式进行大批量的数据库的管理...2 固定种类数据库监控种类的平台建立,这样的平台也是见得不少,都有自己的特性和卖点,并且有些产品是固化与某一种数据库产品或自研数据库产品所推出的,这些平台包含,自动搭建数据库,自动巡检数据库,自动故障处理...3 基于业务的数据库平台,这点可能是商业数据库平台的一个无法触及的地方,目前经济环节的问题会导致针对成本核算的重视,而数据库成本的计算,尤其与业务方面有关的方面这是一个空白,比如数据库为什么要扩充容量...自研平台可以针对各种数据库的原理结合自身的业务特性,做出适合企业特有的数据库与工作性能监控,任务自动一体化的平台,通过平台的搭建,搭建者会成为数据库技术及公司业务的精通者,并且对于DEVOPS 软件平台的规划和功能模块的划分也会有深入的了解...从某种角度,如果深入到业务甚至可以通过平台的方式节省在数据库上的投入,转变被动管理方式,为主动管理,让数据库从花钱的角色,变为省钱的角色,乃至一个“赚钱”的部门。

    2.8K60

    活动】腾讯总监带你探索 AIOps

    智能本来就是在解决各种场景下的问题,智能化技术是一些新手段帮助解决过去解决不了的问题,我认为能利用好这个技术手段解决问题的就算是智能了。...AIOps 并非万能,但它的的确确能让彻底脱离重复低效的手工作坊式的工作。从升级成技术运营,因此焕发第二春。 腾讯在智能应用上有哪些套路和高招?...除此之外,另一位来自京东的老师:张晨@京东金融 资深研发工程师也将带来演讲《 智能之异常检测与根因分析 》 主题简介: 智能的应用在运监控中的应用。...有了异常检测所产生的异常报警数据,又如何找到这些数据之间的关联,找到产生问题的最根本原因,准确的定位,其实一次数据库访问的失败可能是由于交换机问题引起。...从2015年开始从事智能监控平台的研发与实践,参与并主导了APM等产品的研发与应用,经历了多次618和双11的千万级TPS的保障,支撑了京东金融的大量业务应用。 活动通知 扫码参与报名

    1.8K80

    设备远程平台—助力工业设备智能

    远程是工业互联网重要组成部分,没有工业互联网核心技术,远程不可能实现目标,设备远程平台运用了各种新技术,物联网实现数据接入,云计算实现存储、大数据实现分析, 人工智能实现状态检修与预警预报。...01设备远程平台设备远程平台通过智能终端对设备进行在线监测,将各种数据上传到云平台,存储、整理、分析,通过智能应用系统实现在线监控、记录、查询、统计、分析、修改、报警等操作,实现远程智能化管理。...设备远程行业现状分析:01设备运行状况:设备分布广,无法远程监控设备运行情况、故障情况;02成本:出差维护成本高,好多无效出差,设备故障无法及时掌握;03设备运营服务:设备工作、故障、服务、客户使用...04设备远程维系统优势1、一物一码,快速全面掌握设备信息系统给每台设备配置唯一的二码标识,扫一扫即可快速查看设备详情、服务记录、备件更换记录、设备使用帮助、知识库以及设备的实时运行数据,更加有利于客户对产品使用...05设备远程应用价值

    1.2K50

    1位5年智能开发对智能的理解

    这本书理论性很强,个人认为几乎囊括了人工智能各个分支的相关算法。   2019年:进入了千寻的保障部门,接触到了更为庞大的业务。对智能有了进一步的理解。...同时跟公司数据平台的同事有了交流,对数据仓库在智能的应用,有了初步的想法,并且开始尝试实践。...》:较为全面的介绍了智能。   ...对完整的智能解决方案,开始有了自己独特的理解; 总结一下自己的认知过程 12.png 从不同的角度看智能,以质量保障为例   个人认为,智能是一套复杂的人工智能的解决方案。...从业务的角度看智能   首先,智能是建立在运的基础之上的,只有了解了现有的的内容和技术体系,我们才能够合理的思考,智能在整个体系中的地位和作用。

    1.4K72

    腾讯织云Metis智能学件平台正式开源

    10月20日,腾讯织云 Metis 智能学件平台正式对外开源。...1、项目描述 “Metis”取名自希腊神话中的智慧女神墨提斯,全称为:腾讯织云 Metis 智能学件平台。“织云”指的是腾讯智能一体化平台,“学件”的概念由南京大学周志华教授提出。...如 Metis 的智能咨询机器人、舆情监控、集群智能负载均衡、数据库参数调优、容量预测。...5、Metis 智能学件未来开源计划 Metis 将打造一个开放的学件平台,陆续开源时间序列指标预测、主机异常智能分析、MySQL 异常智能分析、硬盘生命周期预测等其它智能学件,集合广大用户在智能领域的建设经验和实践...腾讯织云 Metis 智能学件平台之无阈值智能监控学件正式开源 Github 开源地址: https://github.com/Tencent/Metis Metis国内镜像地址: https://

    5.1K21

    数据库自动化平台–自助DML

    为了使DBA的工作轻松,有效率很多年前各大公司就开始自动化平台建设,在这方面我们属于比较晚的了。 今天介绍下最近开发的一个平台,自助DML。什么是DML,就是平常执行的增删改查数据库操作。...有人有疑问这不是程序访问的操作,为什么还要做一个平台操作这些呢,其实这种操作主要是开发需要线下修复数据的一种操作,不只是增删改,还有建表,建索引,添加字段等,这些操作开发一般会提给DBA协助操作数据库。...虽说现在的公司实例少点,但每天的工作量还是很大,关键这种工比较重复,枯燥,没有技术含量,所以迫切需要一个自助的服务平台开放出去来提高工作效率,解放DBA。...: 1) 提交任务需要满足两个条件:(1) 元数据平台(请参考之前的元数据平台博客)集群归属部门信息不能为空 (2)提交任务的人所在部门要跟集群归属部门一致 2) 根据流程检查权限后,就会对提交的...10) 这个页面是DBA后台操作页面, 目前只有DML,其他平台正在开发中。 总结: 此系统目前已经开放给RD使用,目前日处理需求量50+,对工作效率,安全性,RD体验等方面有了显著的提升。

    3.3K20

    数据库管理平台面面观

    数据库运管平台发展趋势 为满足前文所谈的多样性、跨平台、异构化等趋势,数据库管理平台发展趋势包括以下几个方面: 云化趋势:随着云计算技术的迅速发展,云化趋势将成为数据库管理平台的主流发展趋势。...数据库管理平台将逐渐向基于云的SaaS平台发展,实现跨地域、跨云平台的资源监控和管理。 智能化趋势:数据库管理平台将更加注重应用人工智能、机器学习等技术,实现数据库管理自动化和智能化。...安全智防趋势:随着数据库安全事件频繁发生,数据库管理平台将更加注重数据库安全的智能防护。例如对不合法的SQL操作,恶意登录,数据泄漏等安全事件进行实时监控,及时发现并处理异常情况。...自动化趋势:数据库管理平台将更加注重自动化的发展,推进各项操作的自动化实现,减少人工操作的参与,提高效率和管理质量。...综上所述,数据库管理平台将逐渐实现云化、智能化、多模式化、安全化和自动化的发展趋势。作为一个专门用于进行数据库管理和平台,将实现更高效的数据库管理,更保障企业数据的可靠性和安全性。

    46420

    蓝鲸 腾讯游戏平台

    游戏的两极化(高星级/长尾级)、差异化、数量多、变化快等特点决定了任何一、两个平台都不可能承担起所有的工作。目前同学已经通过iJobs实现了所有操作的作业一键化,但这还远远不够。...【对蓝鲸App开发者而言】 蓝鲸提供了开放的开发平台,它允许业务人员设计自己或客户最需要的app,并借助蓝鲸为app开发者提供的一系列配套设施,多快好省的产出app服务。...• ->规划。 3. 提高团队整体价值。 • 大大提升自动化程度,提升支撑效率。 • 通过尽可能的操作简化和自动化尽可能消灭人为失误给业务带来的损失。...二、【数据类App】 数据查询、修改类的app相比专业的数据类平台,具备速度更快、使用更简单、体验更好的优点,特别适合于对特定信息的、非常频繁获取和变更的场景,甚至可以是不需要任何查询条件的、进入即所得的体验...还有一种视图分析类app,如DNF掉线智能分析端等,产品人员可以自助的获取掉线分析信息,而之前每次收到这类询问时,都要折腾一个钟头。

    8.9K90

    他山之石——平台哪家强?

    应用性能监控:针对应用使用的中间件,例如持久化数据库、缓存数据库、消息中间件等访问效率进行监控;以及对应用本身请求响应速度进行监控,包括延迟、吞吐量等等。...目前国内各大云厂商也基本都提供了应用平台,包括腾讯蓝鲸、阿里 ARMS、华为 APM 等。以下是这几个平台能力的简要对比: ?...目前大部分的平台主要通过 Agent 和探针的方式去采集应用的指标信息,汇总处理后反应在可视化界面上。...除上述的工具和平台之外,AIOps 也逐渐成为未来的一个趋势,AIOps 通过 AI 技术的运用来进行智能业务故障诊断,同时自动恢复应用故障,企图让研发组织彻底告别人肉时代,笔者也万分期待这天的到来...人员不用担心因 AIOps 失业,工具和平台只是提升效率,不会取代

    2.1K50

    DevOps之平台构建

    写在前面的话 如今很多人认为devops将彻底取代传统,我不这么认为,在我看来devops只是很大程度上的代替了传统的手工操作,人员只需写好自动化脚本,利用自动化工具(zabbix,elk...因此Devops能否顺利落地,平台的建设将会很重要。本文主要简单介绍下我司的三大平台职责 ? ?...平台 当前我司平台主要有3个: 持续集成和交付 ①基于Jenkins持续构建 ②支持容器化打包和部署 ③发布平台,支持灰度发布,异常快速回滚 监控告警平台 ①完善的监控体系:覆盖机器、网络、服务和客户设备维度...另外,Prometheus用的就是自研的 TSDB,Zabbix 则用的是 MySQL 或 PostgreSQL,在高并发的情况下,时序型数据库读写性能是远高于关系型数据库的,同时还提供了很多内置的基于时间的处理函数...后记 这三大平台用的都是开源系统,总共有12个系统,Sonar、Jenkins、Ranche、Consul、ELK、Admin-Service、Zabbix、Prometheus、Smokeping

    4.4K20

    未来的发展方向是智能(AIops)

    随着智能化技术的发展,为了解决上述领域的问题,智能的呼声越来越高。...3、在大数据时代, 智能与数据、自动化之间的关系 智能的理想状态就是把工作的三大部分(监控、管理和故障定位),利用一些机器学习的方法有机结合起来。...目前能够把这三部分融合起来的办法就是利用人工智能的手段,最后达到一种智能的状态。 4、智能当下的状况及智能发展的预测 智能当下还是一个初步探索的阶段。...可以举几个时间数字,我所看到的一个和智能相关的开源项目是在 2013 年,第一个主动出来宣讲智能相关内容的国内企业是百度,时间是 2015 年,智能大量出现在宣讲上的时间是在 2016 年下半年...现在比较明确的是大家会朝着智能方向发展,并且智能的发展一定是一个长期演进的过程。 对于智能的发展预测,我的简单看法如下: 智能会首先体现出其在告警系统上的价值。

    3.8K30

    管理平台化:体系为什么要基于平台化建设

    平台是整体架构抽象的实践在拆解运平台的架构抽象实践前,我们先定义管理与维系统之间的关系:管理是基于管理需求来描述一个主题领域的业务,而业务的定义则是由角色、活动流程、工具系统、活动对象...这也是很多企业发现构建了监管控的基本维系统体系,但实质的活动没有很好的改进和变化的原因。...、数据和服务集合,就支撑了活动的展开。...按这种架构设计模式,规划一体化、平台化的建设蓝图和阶段如下示例,包含了能力与场景层的解耦,工具之间有效联动,数据与智能的持续发展:图5 建设蓝图及阶段示例因而平台架构抽象要做好,要有一定的“克制”与...答:以云原生场景为例,已有的平台可以充分利用,然后做如下变化:接入层能适配容器、云原生组件、微服务对象;逻辑层做好云原生更为关键的可观测、应急管理、混沌工程、容量管理和智能化应用;渠道层则在原有的能力上追加多维度视图或强化移动端等即可

    31410

    管理数智化:数据与智能场景实践

    数据与智能技术在运业务中的定位数据与智能技术在运业务中的应用近几年进入“实用化提升阶段”,无论从供给方,还是需求方,都逐步认识到,“数据与智能有其边界和条件,“AI加持”比“AI颠覆”...回归业务本质,复杂度是由管理场景和技术对象共同来影响的,所以回到一体化的定义中:基于业务视角的角色、流程、活动(对象)、工具系统的整合,业务运转顺畅、流程运行高速、工具支撑高效是对一体化的核心验证...基于数据平台提供的高质量、低延迟的统一数据,智能分析决策平台可以根据不同场景需求采用适合的AI算法和模型做出合理判断或结论,并驱动自动管控平台执行运操作。...然而,为了支撑AIOps场景,该平台需要在运领域中加入一些特性,高效地孵化出适配各种智能场景的算法和模型。首先,智能分析决策平台需要建立数据模型、指标体系和知识图谱。...其次,智能分析决策平台最终的用户是人员。因此,它需要具备流程化的低门槛场景建模能力,采用向导式的图形化建模。

    79940

    从ITOM到AIOps:IT管理向智能的进化

    面对这些新形势下的挑战,IT 管理(ITOM)需要从原有的人工加被动响应,转变为更高效、更智能化的体系,为新形势下的IT系统保驾护航。...(来源:Turn Big Data Inward With ITAnalytics) 令IT团队感到欣慰的是,智能(AIOps)踏着人工智能的时代浪潮应运而生。...AIOps平台通过收集各类数据源(包括操作系统、系统软件、数据库、应用日志等),统一进行管理。...不同于以往每次仅可查看数量有限的几种日志,人员可通过智能平台所提供的关键字、统计函数、单条件、多条件、模糊查找等功能,在多个系统中快速定位故障信息,帮助人员从全局视角查看系统的数据信息。...AIOps与现有ITOM平台的关系具体如何呢?传统IT管理平台,即 ITOM 平台,往往是为完成单一管理任务而设计的,更偏向于管理某一细分专业领域。

    4.9K50

    拯救人!智能如何实现1+1>2

    整个集中监控体系的构建,从最早的网络管理,到后续的数据库/数据库管理、存储/服务器管理,再到之后的虚拟化/云管理,才逐渐形成集中监控体系,通过不同的监控工具来实现这些平台的实时告警查看和平台优化建议。...Gartner并预测到2022年,有40%的大型企业将会进行部署AIOps平台智能虽好,却也有一个很现实的问题,即全球没有一家公司的产品可以覆盖全部数据范围来帮助用户构建智能中心。...2 如何让智能1+1>2 爱数与听云在智能领域开启了新模式。今年1月份,双方携手正式推出了智能整合方案,旨在帮助客户全面管理、深度洞察海量、多源、异构的机器数据。...某种程度来看,爱数与听云走到一起,就是在帮助用户打通过去传统的种种“壁垒”,让数据、工具、平台可以实现打通与联通,让真正成为一盘棋。与此同时,双方合作也揭示平台未来的发展趋势。...从长远来看,开放、高效、经济的平台也是最符合企业用户对于的要求。

    68820
    领券