数据库不仅仅是dba的工作,每一个测试人员也应该懂得基本的数据运维操作,因为数据库是数据承载的地方并且是系统中非常重要的一部分,所以我们也需要熟练的对数据库进行基本维护。...4.2:导入某些数据表 mysql -uusername -ppassword testdb1 < tables.sql 或者 mysql>source tables.sql; 02、shell脚本实现数据库备份...总结:数据库的运维对于测试人员来说仍然是非常重要的,比如:非常重要也不太容易构建的测试数据需要做备份操作时,数据库的运维就显得很有技术含量,掌握数据的基本运维可以使测试工作做得更出色,同时也会让开发刮目相看...,朋友们一起加油~ 友情提示:“无量测试之道”原创著作,欢迎关注交流,禁止第三方转载。
资源申请和集群管理方式 为了更好的管理和维护,图数据库在运维部门集中运维管理。用户按需在工单平台中提交申请即可,工单中填写详细的资源需求数据和性能需求指标,由运维同学统一审核交付集群资源。...为了高效管理和运维规模化的集群,需要提前规划和制定规范。...61000 meta 端口;51000 ws_http_port;41000 ws_h2_port 62000 storage 端口;52000 ws_http_port;42000 ws_h2_port 运维规范...端口 路径打包生成 rpm,作为标准安装包 图片 服务请求直接通过 DNS 和网关服务到 Graph,方便计算和存储服务直接交互,由于是通过 DNS 访问,不对外暴露 Meta 节点信息,可以更灵活的运维...,较少服务绑定 Meta 节点 ip 带来的运维代价。
经过调研,我们选择分布式图数据库 NebulaGraph 作为管理的对象,主要基于以下几个因素考虑: NebulaGraph 开源版本即拥有横向扩展能力,为大规模部署提供了基本条件; 使用自研的原生存储层...,相比 JanusGraph 这类构建在第三方存储系统上的图数据库,性能和资源使用效率上具有优势; 支持两种语言,尤其是兼容主流的图技术语言 openCypher,有助于用户从其他使用 Cypher 语言的图数据库...考虑到使用图数据库的业务大多数据来自离线系统,通过离线作业将数据导入到图数据库中,数据一致的要求并不高,在这种条件下使用蓝绿部署能够在灾备和性能上得到很好的满足。...生产上的一个例子: 图片 上图为三机房情况,下图为蓝绿部署情况: 图片 中间件及运维管理 我们基于 K8s CRD 和 Operator 来进行 NebulaGraph 的部署,同时通过服务集成到现有的部署配置页面和运维管理页面...NebulaGraph 二次开发 当前我们对 NebulaGraph 的修改主要集中的几个运维相关的环节上,比如新增了命令来指定迁移 storaged 中的分片,以及将 leader 迁移到指定的实例上
前一段时间用户的系统进行应用发布和系统运维,准备了很久,结果我们最为担心的数据库维护环节没有出现问题,却在应用发布的阶段出现麻烦,因为程序未设置正确的字符集,导致插入了乱码数据,结果又不得不重来。...移动的朋友总结了一句话,非常有道理:运维保障总是从最高风险点开始逐步推进,悖论是如果这样推进的执行力有保障,出的问题总是之前觉得低风险的地方。...这也给我们一个警示:数据库运维或系统运维,每一个环节都要细致入微,唯有如此才能保障长治久安。...最近某用户的ASM实例又因为ORA-04031错误出现宕机事故,影响了业务运行,我分析了一下日志,同一个的错误自去年就已经出现,两个实例分别发生了148 次和111次,最终--终于导致事故出现。...、数据库运维,监控是根本,及时发现、分析和解决出现的问题,是运维保障系统稳定的关键,任何一个简单的错误都不容轻忽。 加强监控,收集和分析足够多的数据,是系统的最佳保障! 图:对客户系统错误的分析。
swpd,交换空间,当内存不够的时候,系统可以临时把一些进程移到swp中去。...(如果这个数据不变,代表正常,如果数据不停的变化,代表内存和交换分区不停的交换数据,同时,si,so也一定会不停的变化,内存不足) si,参照物为内存 in,有多少KB的数据块,在等待进入内存 so,参照物为内存...代表着资源也不够了 <100% (us+sy+id=100) wa,wait 等待,等待cpu的百分百,有多少个进程在等待cpu #vmstat 2 10 //显示系统负载状态,每隔两秒显示一次...(在脚本会是经常使用) ---- sar: sar:监控系统状态(yum install -y sysstat)一般安装之后会在10分钟后才会有抓取的文件。...保留一个月的历史!
2、数据库部署 该运维工程师出场了,项目初期访问量不会很大,所以单台部署足以应对在1500左右的QPS(每秒查询率)。...一方面可以单台运行多个MySQL实例让服务器性能发挥到最大化,另一方面是对数据库进行优化,往往操作系统和数据库默认配置都比较保守,会对数据库发挥有一定限制,可对这些配置进行适当的调整,尽可能的处理更多连接数...如果做双主,就会遇到数据库数据不一致现象,产生这个原因是在应用程序不同的用户会有可能操作两台数据库,同时的更新操作造成两台数据库数据库数据发生冲突或者不一致。...5、数据库维护 数据库维护是运维工程师或者DBA主要工作,包括性能监控、性能分析、性能调优、数据库备份和恢复等。...这些都是与运维相关的前沿技术,也是在存储方面主要学习对象,小伙伴们共同加油吧!哪位博友有更好的优化方案,欢迎交流哦。
作者丨郭智文:腾讯高级工程师,手机QQ运维负责人。...12月16日,首期沙龙“海量运维实践大曝光”在腾讯大厦圆满举行。...沙龙出品人腾讯运维技术总监、复旦大学客座讲师、DevOps专家梁定安,讲师腾讯手机QQ运维负责人郭智文,腾讯高级工程师魏旸,腾讯SNG资深运维专家周小军出席沙龙,并带来精彩的技术分享。...业务运维同事通过腾讯网络中心联系到重庆联通网络负责人,经过多轮沟之后,确认确实是运营商在凌晨时段割接网络引起,运营商与厂商经过两次调整最后故障才得以解决。...总结 相关文章 腾讯云运维干货沙龙-海量运维实践大曝光 (二) 腾讯云运维干货沙龙-海量运维实践大曝光 (三) 沙龙PPT下载地址: https://share.weiyun.com
介绍 python的requests模块是python一个强大的第三方HTTP请求库,简单易用 安装: pip install requests import requests url='http://...) s=requests.options(url) requests模块请求传参 net_para = {'localdns':'8.8.8.8','ip':'192.168.1.2'} #这里是一个字典...header={"User-Agent":"Mozilla/5.0(X11;Ubuntu;Linuxx86_64;rv:39.0)Gecko/20100101Firefox/39.0"} #这里也是一个字典
这是学习笔记的第 1827篇文章 在数据库运维中对运维场景建立连接是一种很不错的方式,通过建立连接使得我们可以把原本单一的问题通过流程化的方式衔接起来。 以下是近期的一些实践和思路。...业务和运维团队之间工作的一个纽带就是工单,当然目前还没有明确的工单结算方式,但是可以很明确的说,工单是我们输出给业务方的业务价值体现。 ? 在业务价值体现的过程中,我们可以把技术价值也打包进去。...,最终一条SQL从50分能够优化到满分(99分)。...当然业务巡检的情况和SQL审核类似,页面开发出来了,但是还没有完全推广用起来,我觉得这个地方的一大改进就是把监控和报警结合起来,监控数据能够推送出报警,报警信息可以间接调用巡检接口,这样对于运维同学来说...而在这个基础上,我们完善了之后,可以把报警信息和巡检建议也一并发给业务方,这样业务方对于系统的负载和问题都会有一个清新的认识,而通过可视化的方式也让他们能够关注于自助巡检的信息。
背景 近些年,传统的数据库运维方式已经越来越难于满足业务方对数据库的稳定性、可用性、灵活性的要求。随着数据库规模急速扩大,各种NewSQL系统上线使用,运维逐渐跟不上业务发展,各种矛盾暴露的更加明显。...在业务的驱动下,美团点评DBA团队经历了从“人肉”运维到工具化、产品化、自助化、自动化的转型之旅,也开始了智能运维在数据库领域的思考和实践。...本文将介绍美团点评整个数据库平台的演进历史,以及我们当前的情况和面临的一些挑战,最后分享一下我们从自动化到智能化运维过渡时,所进行的思考、探索与实践。...但主动出击不一定是通过DBA去做,可能是系统或者机器人操作;第三,传统运维是由DBA发起和解决的,而智能运维是系统发起、RD自助;第四,传统运维属于“人肉救火”,而智能运维属于“智能决策执行”;最后一点...作者简介 应钢,美团点评研究员,数据库专家。曾就职于百度、新浪、去哪儿网等,10年数据库自动化运维开发、数据库性能优化、大规模数据库集群技术保障和架构优化经验。
我们来看看某些领导对于数据库本身的看法 1 放数据的地方,只要数据库不出问题,系统就很少出问题,数据库怎么老出问题 2 数据库和大数据比,没有什么意思,大数据能衍生出很多的项目,数据库就是一个运维的...3 数据库无非就是ORACLE ,硬件配置提高点,问题就解决了,没有那么难 4 数据库就是运维的事情,找点运维的,开发的管管算了,没有必要投入太大 估计有些同学看完上面的一些上层对DB的本质工作的看法...软件开发可能是非常杰出的专家,对于数据库的看法其实就不那么专业了,大部分对于数据库的理解还是一个辅助软件开发的部分,或者数据库是运维的部分的思维模式,这还是与数据库最接近的 程序员领导的想法。...所以数据库到底是不是运维,是不是一个简简单单存储数据的东西,值得领导层深思和考虑,如果你看轻他,必然他会找上门,最终和你讨账,让你死去活来。...至于数据库的周边,如自动化管理,智能化管理,和更靠近业务的方的数据治理等等都是在领导重视后,才能有的后续。 所以,在领导眼里,你是一个“运维吗” ?
之前对数据库恢复做了相对全面的整合,为了校验数据恢复质量,我们开启了近半年的数据随机恢复测试,也就是说为了验证数据库的恢复质量和效率,我们会每天从备份机里面随机选取12个数据库实例进行数据恢复测试...在早期的指标设定中,我们很快达到了从70%改进到了90%,按照这个步调,想达到更高的目标看起来指日可待,比如我拍脑袋指定了一个指标99.9%,但是尴尬的是,以月份为单位,总是会在有那么1个实例恢复失败,...但是失败的场景又难以复现,所以一直没有实现这个目标。...有时候在想到底是为什么,今天突然琢磨了下,原来就是一道很简单的数学题。...所以拍脑袋的指标真是啪啪打脸,还是得做一个简单的计算来坐下评估,当然对于这个问题我觉得可以基于统计学的角度来做更进一步的分析,因为结合实际的业务场景,有很多改进的角度,我会在评估后给出一个可行的指标。
2、数据库部署 该运维工程师出场了,项目初期访问量不会很大,所以单台部署足以应对在1500左右的QPS(每秒查询率)。...一方面可以单台运行多个MySQL实例让服务器性能发挥到最大化,另一方面是对数据库进行优化,往往操作系统和数据库默认配置都比较保守,会对数据库发挥有一定限制,可对这些配置进行适当的调整,尽可能的处理更多连接数...如果做双主,就会遇到数据库数据不一致现象,产生这个原因是在应用程序不同的用户会有可能操作两台数据库,同时的更新操作造成两台数据库数据库数据发生冲突或者不一致。...5、数据库维护 数据库维护是运维工程师或者DBA主要工作,包括性能监控、性能分析、性能调优、数据库备份和恢复等。...这些都是与运维相关的前沿技术,也是在存储方面主要学习对象,小伙伴们共同加油吧!哪位博友有更好的优化方案,欢迎交流哦。 ?
// MongoDB运维与开发(一) // 工作方向上的原因,不得不接触部分MongoDB的运维工作,之前有接触过一些MongoDB的内容,基本的运维操作没有什么问题,包括MongoDB的集群搭建...但是时间久了,很多东西不用就忘记了,最近准备出一个系列的MongoDB的运维操作文章,希望把这块儿内容重新拾起来。...,因为MongoDB是专门针对分布式设计的数据库,因此它的存储方式相对比较灵活。...在MySQL中,我们关心的数据对象分别是数据库、表、记录; 在MongoDB中,它们对应成为数据库、集合、文档。...你可以类比的认为集合和表是一个概念,记录和文档是一个概念,当然,它们中间还有很多不同的地方。
Oracle数据库运维方案及优化 运维优化 本文详细讲解了如何对Oracle数据库进行运维,从各个方面来说明了如何去运维。...文章目录 Oracle数据库运维方案及优化 前言: Oracle数据库性能优化 一 为啥要运维,运维哪些内容?...Oracle数据库的性能方面的优化,这篇文章咱们讲讲关于运维方面的优化吧。...上一篇文章的地址: Oracle数据库性能优化 一 为啥要运维,运维哪些内容?...数据库的运维主要结合 目标系统的实际情况,提供切实可行的运维建设机制, 内容覆盖 ORACLE 数据库的日常维护、紧急故障处理,软件升级等,客户可依据 服务内容进行相应的定制。
运维是企业业务系统从规划、设计、实施、交付到运维的最后一个步骤,也是重要的步骤。...运维从横向、纵向分可以分为多个维度和层次,本文试图抛开这纷繁复杂的概念,讲述一个传统的企业级运维人员转型到云运维人员,尤其是软件定义存储的运维之间经历的沟沟坎坎。...本文选取云数据中心的其中一点,即软件定义存储(SDS)的运维为例,试述整个演进历程。...所以下面我讲述一个真实的A公司传统企业运维人员转型运维Ceph SDS的历程。 本文主要说下硬件选型关卡。...欲知后事,且听下文《从传统运维到云运维演进历程之软件定义存储(二)》,主要讲述了A公司运维小哥在硬件选型完毕之后开始部署Ceph遇到的一些问题以及解决办法。
前一阵有一个测试用的 MySQL 数据库被黑了,删库勒索的那种,这里记录一下事情经过,给自己也敲个警钟。...0x01 库没人懵 到第二天,正欢乐地测着功能呢,突然打开啥页面都报数据库异常了,到库里一看,好家伙,所有表都没了,只剩一张 readme,里面写着: 以下数据库已被删除:xxx。...能把库里的表都删了,数据库和服务器的权限怕是都被拿到了。...AK,删除了被创建的子账号,但服务器应该已经被渗透了; 然后就是数据库字段被篡改,估计是一方面把服务器资源作为肉鸡继续扩散攻击其它人,另一方面作为诱饵,监控处理动作; 最后就是删库勒索了。...整个服务器和数据库的权限应该都不安全了,所以我先采取了以下措施: 检查服务器安全组规则,发现被加入了允许公网访问 3306 和所有端口的记录,将其删除; 检查服务器上的用户,发现多了一个用户 guest
大概在2014年,当时所在团队面临变更引起故障的难题,组织了一次运维前移的工作,比如由运维工程项目团队牵头建立项目可行性评审,应用运维团队参与到概要设计、详细设计(非功能性设计与重大功能改造)、集中变更评审...、运行评估标准,与特定研发线沟通变更发布与交付涉及的数据库表、文档标准等等。...部分工作思路可以参见当时的一篇文章《变更产品交付标准化》相关的工作与当前一些组织提到的运维左移有点类似。...建立一个可扩展性的运维左移知识体系需要关注以下几点: 在目标上,左移要围绕运维价值创造:“提高业务连续性保障、提升业务交付速度、辅助提升客户体验、提升IT运营服务质量”。...本篇对运维左移开个头,画个左移知识体系的分析框架,后续重点围绕左移主线不断完善范围项,计划下一篇为“运维左移系列(二)之压力测试”。
下面一些同学,提出数据库不就是运维吗,不是很悲催吗,虽然这样说的同学不多,但给我一个很想表达不同观点的冲动。 搞数据库的到底是不是搞运维的 ?...我的回答是NO,NO, NO 那么为什么搞数据库的我不认为是搞运维的,首先我要重申一点,我个人一点都不认为,搞运维的是低端的,是不值钱的,想法我认为搞运维的同学,实际上技术水准应该更高,甚至要高于普通的开发者...至于运维同学怎么想,我想会有运维的同学来,去写这样的文字,来反驳。作为 DB 人员,我1000000万个不同意,搞数据库的就是搞运维的这样的观点。...基于此,DB 人员是一个综合性的,一个融合性的岗位,如同某相声演员在表演中提出的,相声演员就是文化的杂货铺,数据库DB 人员本身也是一个融合了数据库运行维护知识,数据库开发知识,数据库原理论,数据库底层硬件匹配和操作系统部分知识...说完这些你还觉得,DBA 是一个运维人员,这不是搞笑吗 ?
而使用专业的数据库审计产品又缺乏对运维人员的审计,于是数据库运维审计产品成为最佳选择。...一、 行为监管与记录数据库运维审计是针对管理员、操作员访问数据库的行为进行监管与记录,包括操作行为所对应的操作对象、操作账户、操作时间、操作内容等相关信息,用以监控操控行为,并对发生的威胁事件进行溯源与追责...2、 访问控制相关人员在维护数据库前必须申请自己的访问对象(数据库实例/端口/账号/…),批准之后方可通过数据库运维审计系统进行访问,以此对维护行为进行记录,避免越权访问、权限滥用等风险。...诸如此类的安全风险问题,通过权限上收、账号密码上收,不给使用人员下发数据库账号密码,只分配运维审计系统账号,这样使用人员只能通过运维审计系统登陆从而实现访问控制。...数据库审计过程中,一方面需要保证审计的完整性和准确性,另一方面,也需要确保数据本身的安全性。在诸如医院收银系统等存取敏感信息的数据库中,安全要求非常严格。
领取专属 10元无门槛券
手把手带您无忧上云