首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >rdb和aof二种持久化方式对比(Redis)

rdb和aof二种持久化方式对比(Redis)

作者头像
HUC思梦
发布于 2020-09-03 09:14:36
发布于 2020-09-03 09:14:36
4880
举报

我们已经知道对于一个企业级的redis架构来说,持久化是不可减少的

企业级redis集群架构:海量数据、高并发、高可用

持久化主要是做灾难恢复,数据恢复,也可以归类到高可用的一个环节里面去

比如你redis整个挂了,然后redis就不可用了,你要做的事情是让redis变得可用,尽快变得可用

重启redis,尽快让它对外提供服务,但是就像上一讲说,如果你没做数据备份,这个时候redis启动了,也不可用啊,数据都没了

很可能说,大量的请求过来,缓存全部无法命中,在redis里根本找不到数据,这个时候就死定了,缓存雪崩问题,所有请求,没有在redis命中,就会去mysql数据库这种数据源头中去找,一下子mysql承接高并发,然后就挂了

mysql挂掉,你都没法去找数据恢复到redis里面去,redis的数据从哪儿来?从mysql来。。。

如果你把redis的持久化做好,备份和恢复方案做到企业级的程度,那么即使你的redis故障了,也可以通过备份数据,快速恢复,一旦恢复立即对外提供服务

redis的持久化,跟高可用,是有关系的

redis持久化:RDB,AOF

-------------------------------------------------------------------------------------

1、RDB和AOF两种持久化机制的介绍

RDB持久化机制,对redis中的数据执行周期性的持久化

AOF机制对每条写入命令作为日志,以append-only的模式写入一个日志文件中,在redis重启的时候,可以通过回放AOF日志中的写入指令来重新构建整个数据集

如果我们想要redis仅仅作为纯内存的缓存来用,那么可以禁止RDB和AOF所有的持久化机制

通过RDB或AOF,都可以将redis内存中的数据给持久化到磁盘上面来,然后可以将这些数据备份到别的地方去,比如说阿里云,云服务

如果redis挂了,服务器上的内存和磁盘上的数据都丢了,可以从云服务上拷贝回来之前的数据,放到指定的目录中,然后重新启动redis,redis就会自动根据持久化数据文件中的数据,去恢复内存中的数据,继续对外提供服务

如果同时使用RDB和AOF两种持久化机制,那么在redis重启的时候,会使用AOF来重新构建数据,因为AOF中的数据更加完整

-------------------------------------------------------------------------------------

2、RDB持久化机制的优点

(1)RDB会生成多个数据文件,每个数据文件都代表了某一个时刻中redis的数据,这种多个数据文件的方式,非常适合做冷备,可以将这种完整的数据文件发送到一些远程的安全存储上去,比如说Amazon的S3云服务上去,在国内可以是阿里云的ODPS分布式存储上,以预定好的备份策略来定期备份redis中的数据

(2)RDB对redis对外提供的读写服务,影响非常小,可以让redis保持高性能,因为redis主进程只需要fork一个子进程,让子进程执行磁盘IO操作来进行RDB持久化即可

(3)相对于AOF持久化机制来说,直接基于RDB数据文件来重启和恢复redis进程,更加快速

-------------------------------------------------------------------------------------

3、RDB持久化机制的缺点

(1)如果想要在redis故障时,尽可能少的丢失数据,那么RDB没有AOF好。一般来说,RDB数据快照文件,都是每隔5分钟,或者更长时间生成一次,这个时候就得接受一旦redis进程宕机,那么会丢失最近5分钟的数据

(2)RDB每次在fork子进程来执行RDB快照数据文件生成的时候,如果数据文件特别大,可能会导致对客户端提供的服务暂停数毫秒,或者甚至数秒

-------------------------------------------------------------------------------------

4、AOF持久化机制的优点

(1)AOF可以更好的保护数据不丢失,一般AOF会每隔1秒,通过一个后台线程执行一次fsync操作,最多丢失1秒钟的数据

(2)AOF日志文件以append-only模式写入,所以没有任何磁盘寻址的开销,写入性能非常高,而且文件不容易破损,即使文件尾部破损,也很容易修复

(3)AOF日志文件即使过大的时候,出现后台重写操作,也不会影响客户端的读写。因为在rewrite log的时候,会对其中的指导进行压缩,创建出一份需要恢复数据的最小日志出来。再创建新日志文件的时候,老的日志文件还是照常写入。当新的merge后的日志文件ready的时候,再交换新老日志文件即可。

(4)AOF日志文件的命令通过非常可读的方式进行记录,这个特性非常适合做灾难性的误删除的紧急恢复。比如某人不小心用flushall命令清空了所有数据,只要这个时候后台rewrite还没有发生,那么就可以立即拷贝AOF文件,将最后一条flushall命令给删了,然后再将该AOF文件放回去,就可以通过恢复机制,自动恢复所有数据

-------------------------------------------------------------------------------------

5、AOF持久化机制的缺点

(1)对于同一份数据来说,AOF日志文件通常比RDB数据快照文件更大

(2)AOF开启后,支持的写QPS会比RDB支持的写QPS低,因为AOF一般会配置成每秒fsync一次日志文件,当然,每秒一次fsync,性能也还是很高的

(3)以前AOF发生过bug,就是通过AOF记录的日志,进行数据恢复的时候,没有恢复一模一样的数据出来。所以说,类似AOF这种较为复杂的基于命令日志/merge/回放的方式,比基于RDB每次持久化一份完整的数据快照文件的方式,更加脆弱一些,容易有bug。不过AOF就是为了避免rewrite过程导致的bug,因此每次rewrite并不是基于旧的指令日志进行merge的,而是基于当时内存中的数据进行指令的重新构建,这样健壮性会好很多。

-------------------------------------------------------------------------------------

6、RDB和AOF到底该如何选择

(1)不要仅仅使用RDB,因为那样会导致你丢失很多数据

(2)也不要仅仅使用AOF,因为那样有两个问题,第一,你通过AOF做冷备,没有RDB做冷备,来的恢复速度更快; 第二,RDB每次简单粗暴生成数据快照,更加健壮,可以避免AOF这种复杂的备份和恢复机制的bug

(3)综合使用AOF和RDB两种持久化机制,用AOF来保证数据不丢失,作为数据恢复的第一选择; 用RDB来做不同程度的冷备,在AOF文件都丢失或损坏不可用的时候,还可以使用RDB来进行快速的数据恢复

-- 启动后端启动方式 daemonize yes

logfile "日志文件存储位置"

dbfilename "rdb文件名称"

dir "rdb数据文件存储的位置"

RDB快照 触发方式: save(同步)【阻塞】

文件策略: 新的文件替换老的文件

bgsave(异步非阻塞) fork()->redis子进程执行createRDB-> success

自动 实质执行bgsave(推荐关闭) ---------------------------------------------- AOF命令方式 AOF的三种策略: always 写一次刷新一次 everysec 每一秒都会把缓存区的数据fsync刷新到缓冲中 no 根据系统确定刷新

redis->写命令刷新的缓冲区中

AOF的重写:把过期,重复的,优化的命令写入到AOF文件中 set hello world set hello java set hello gerry incr count incr count rpush list a rpush list b rpush list c 过期数据

作用: 减少磁盘占有量 加速恢复速度 AOF重写实现的方式: bgwriteaof

AOF重写配置 auto-aof-rewrite-min-size AOF文件重写需要尺寸 atuo-aof-rewrite-percentage AOF文件增长率

统计: aof_current_size AOF当前尺寸 aof_base_size AOD上次启动和重写尺寸(单位是字节)

公式: aof_current_size > auto-aof-rewrite-min-size aof_current_size - aof_base_size / aof_current_size > atuo-aof-rewrite-percentage

配置文件的文件名称: appendonly yes appendfilename aof文件名称 appendfsync everysec dir /data目录 no-appendfsync-on-rewrite yes

RDB最佳策略: 关 集中管理 主从开

AOF最佳策略 开: 缓存和存储 AOF重写集中管理 everysec

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2019-11-22 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
详解 redis-4.x 持久化机制
redis的数据全部在内存中,如果突然宕机,数据就会全部丢失,因此必须有一种机制来保证redis的数据在遇到突发状况的时候不会丢失,或者只丢失少量,于是必须根据一些策略来把redis内存中的数据写到磁盘中,这样当redis服务重启中,就可以根据磁盘中的数据来恢复数据到内存中。
CoderJed
2019/03/05
5950
突破Java面试(24)-Redis的持久化机制
Redis 对外提供数据访问服务时,使用的是常驻内存的数据。如果仅将数据存在内存,一旦宕机重启,数据全部丢失。
JavaEdge
2019/07/07
9300
突破Java面试(24)-Redis的持久化机制
关于Redis的几件小事 | 持久化/缓存雪崩与穿透
redis持久化的意义,在于 故障恢复 。 如果没有对数据进行持久化,那么如果redis遇到灾难性的故障,就会丢失所有的数据。 如果通过redis的持久化机制将数据持久化到硬盘上面去,然后在定期将磁盘上的文件备份到一起其他的服务器上面(比如:云服务器),这样就可以保证即使redis遇到了灾难事故,也可以使用提前备份的文件对数据进行回复,之后丢失最近的一部分数据,而不会全部丢失数据。
大数据真好玩
2019/08/08
1.2K0
面试题:Redis 的持久化有哪几种方式?
redis 的持久化有哪几种方式?不同的持久化机制都有什么优缺点?持久化机制具体底层是如何实现的?
用户1263954
2019/06/05
5.6K0
AOF持久化
由于需要记录Redis的每条写命令,因此AOF不需要触发,下面介绍AOF的执行流程。 AOF的执行流程包括: 命令追加(append):将Redis的写命令追加到缓冲区aof_buf; 文件写入(write)和文件同步(sync):根据不同的同步策略将aof_buf中的内容同步到硬盘; 文件重写(rewrite):定期重写AOF文件,达到压缩的目的。
用户5546570
2020/02/13
9290
Redis持久化 - RDB和AOF
持久化(Persistence),即把数据(如内存中的对象)保存到可永久保存的存储设备中(如磁盘)。 持久化Redis所有数据保持在内存中,对数据的更新将异步地保存到磁盘上。
BUG弄潮儿
2020/09/23
4130
Redis持久化 - RDB和AOF
Redis学习一:Redis两种持久化机制
为了避免内存中的数据丢失,Redis提供了对持久化的支持。Redis共有RDB和AOF两种持久化机制。
一枝花算不算浪漫
2020/04/21
7420
Redis学习一:Redis两种持久化机制
深入浅出Redis(四):Redis基于RDB、AOF的持久化
Redis是一款基于内存的键值对数据结构存储系统,Redis基于内存且常用来缓存关系型数据库中的数据,但不代表着Redis不能进行持久化,本篇文章将深入浅出的说明Redis基于RDB和AOF的持久化方式
菜菜的后端私房菜
2024/09/09
2840
redis持久化RDB和AOF
客户端每写入一条命令,都记录一条日志,放到日志文件中,如果出现宕机,可以将数据完全恢复
GH
2020/04/09
4580
redis RDB持久化方式的工作原理是怎样的_杜兰特挽留纳什
我们已经知道对于一个企业级的redis架构来说,持久化是不可减少的,持久化主要是做灾难恢复,数据恢复,也可以归类到高可用的一个环节里面,比如你redis整个挂了,然后redis就不可用了,你要做的事情是让redis变得可用,尽快变得可用,重启redis,尽快让它对外提供服务。
全栈程序员站长
2022/11/15
2660
redis RDB持久化方式的工作原理是怎样的_杜兰特挽留纳什
Redis持久化
Redis的持久化指的是将内存中redis数据库运行的数据,写到硬盘文件上。
用户7353950
2022/05/11
7980
redis 持久化
文章目录 1. 前言 2. RDB 2.1. 手动触发 2.2. 自动触发 2.3. RDB执行流程 2.4. RDB的优点 2.5. RDB的缺点 3. AOF 3.1. 如何开启AOF 3.2. AOF整体的执行流程 3.3. 命令写入 3.4. 文件同步 3.5. 文件重写机制 3.6. AOF的优点 3.7. AOF的缺点 4. AOF和RDB的区别 5. 重启加载 6. 性能问题与解决方案 7. 总结 前言 Redis目前已经成为主流的内存数据库了,但是大部分人仅仅是停留在会用的阶段,你真的了
砍鸡鸡
2021/02/22
6030
【玩转Redis面试第3讲】一次性将Redis RDB持久化和AOF持久化讲透
持久化(Persistence),即把数据(如内存中的对象)保存到可永久保存的存储设备中(如磁盘)。持久化的主要应用是将内存中的对象存储在数据库中,或者存储在磁盘文件中、XML数据文件中等等。
爱笑的架构师
2020/09/24
8080
【玩转Redis面试第3讲】一次性将Redis RDB持久化和AOF持久化讲透
Redis持久化数据之RDB和AOF
Redis由于读取效率快而常常被用作缓存来使用,之所以读取的速度非常快,是因为Redis将数据都存储在内存中,我们大家都知道存储在内存中的数据最大的特点就是:断电即丢失,这就容易出现数据不安全的问题。关系型数据库MySQL就是将数据持久化到磁盘上。那么Redis官方也提供了RDB和AOF两种方式,可以将数据持久化到磁盘来确保数据的安全性。
百思不得小赵
2022/12/01
4510
Redis持久化数据之RDB和AOF
《【面试突击】— Redis篇》-- Redis哨兵原理及持久化机制
《【面试突击】— Redis篇》--Redis的线程模型了解吗?为啥单线程效率还这么高?
编程大道
2020/02/19
8450
Redis持久化
Redis为了保证运行的安全性,防止因进程退出或者其它系统原因导致的数据丢失问题,于是提供了持久化技术。在Reids中我们可以使用RDB和AOF两种机制来使用Reids持久化功能。下面我分别看一下这两种机制的区别及具体使用方法。
吉林乌拉
2019/10/30
1K0
Redis持久化
redis 的持久化有哪几种方式?
持久化主要是做灾难恢复、数据恢复,也可以归类到高可用的一个环节中去,比如你 redis 整个挂了,然后 redis 就不可用了,你要做的事情就是让 redis 变得可用,尽快变得可用。
IT技术小咖
2019/11/24
1.3K0
Redis 持久化是如何做的? RDB和AOF对比分析
这篇文章我们先介绍Redis的高可用保障的基础:数据持久化。因为Redis的主从复制和自动故障恢复,都需要依赖Redis持久化相关的东西。同时,Redis的数据持久化也可以用来做数据备份,用来保障数据的安全性。
全栈程序员站长
2022/07/19
2750
Redis 持久化是如何做的? RDB和AOF对比分析
电商详情页缓存架构(三)redis持久化
通过持久化将数据存在磁盘上,然后可以定期同步和备份这些文件到云存储服务上去,那么就可以保证数据不丢失
chenchenchen
2022/03/09
4910
电商详情页缓存架构(三)redis持久化
Redis持久化机制详解
Redis持久化机制详解 一. 持久化的意义 Redis持久化的意义:主要在于故障恢复。Redis如果仅将数据完全保存在内存中,是无法应对灾难性故障的。如果Redis进程突然挂掉,保存在内存中的数据就全没了,如果没有持久化,后果不堪设想。使用持久化+定期备份(如备份到云存储上)的机制,可以在很大程度上解决Redis故障恢复的问题。这样即使Redis服务宕机,且磁盘损坏,也可以从云存储上拉取备份的数据进行恢复,不会造成数据的全部丢失。 从一定意义上来说,Redis的持久化也可以视为高可用的一部分。因为如果没有
张申傲
2020/09/03
4490
相关推荐
详解 redis-4.x 持久化机制
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档