重点文档:https://github.com/danfengcao/binlog2sql
MySQL以简单易用著称,在同一个服务器上可以安装N个不同的版本,方便测试,迁移等等。此外,对于大多数Linux系统,集成了mysql,缺省会被安装。因此多版本的问题导致一些莫名的错误也是时有发生。最近在提取binlog日志时,碰到了一个read_log_event,Found invalid event in binary log。经查发现原来是mysqlbinlog版本问题引发的。如下文,供大家参考。
之前写过一篇名为“快速安全删除MySQL大表”的博客,讲解如何在不影响线上数据库服务的前提下删除大表。实际上清理MySQL binlog也会遇到同样的问题。例如,我们每个binlog文件的大小是1G。最初的做法是,每天凌晨2:30执行下面的操作清理10天前binlog:
近段时间一直在研究mysql的日志系统,在网上看了N多mysql日志操作的文章,但都过于零乱,为了让自己以后不再搞忘,特作出以下总结:
作者:孙绪宗,新浪微博 DBA 团队工程师,主要负责 MySQL、PostgreSQL 等关系型数据库运维。
最近的MHA测试过程中,碰到了mysqlbinlog客户端的版本低于服务端版本的问题。即这个错误提示:mysqlbinlog is 3.2 (included in MySQL Client 5.0 or lower), but MySQL server version is 5.6.22-log. mysqlbinlog can not parse row based events。这个应该是个比较常见的错误。主要是由于在安装Linux期间通常在自带安装mysql相关rpm包,后来又安装了高版本的mysql而引发的一些版本问题。下面是这个问题的主要描述。
MySQL :: Download MySQL Community Server (Archived Versions) (opens new window)
MySQL binlog日志记录了MySQL数据库从启用日志以来所有对当前数据库的变更。binlog日志属于二进制文件,我们可以从binlog提取出来生成可阅读的SQL语句来重建当前数据库以及根据需要实现时点恢复或不完全恢复。本文主要描述了如果提取binlog日志,并给出相关示例。
使用 --read-from-remote-server 读取远程数据库日志,而不是读取本地文件
玩过binlog server的同学都知道,它使用mysqlbinlog命令以daemon进程的方式模拟一个slave的IO线程与主库连接,可以很方便地即时同步主库的binlog,以便弥补定时备份策略中最近一次备份到下一次备份完成之前这段时间内的数据容易丢失的问题。 优点:备份出来的binlog不会受到主库expire_logs_days参数的影响,因为binlog server是模拟slave的IO线程,也不会受到从库relay_log_purge参数影响。这些binlog除非你手动清理,否则就会持续
该命令既可以读取本地日志文件又可以读取远程数据库文件(不包含远程数据库relay log)
使用mysqlbinlog按时间查询二进制日志时,会用到start-datetime和stop-datetime选项。
如果在开始备份时没有指定--flush-logs参数,则需要首先查看备份时所处的位置
[root@db02 data]# mysqlbinlog mysql_bin.000001
在上一篇博客的学习,我们知道了InnoDB存储引擎的两种事务日志,redo log是InnoDB特有的功能,而MySQL也是有自己的日志机制的,也即本文学习的binlog
MySQL 备份一般采取全库备份加日志备份的方式,例如每天执行一次全备份,每小时执行一次二进制日志备份。这样在 MySQL 故障后可以使用全备份和日志备份将数据恢复到最后一个二进制日志备份前的任意位置或时间。
关于这种方式的更多内容,可以参考: https://dev.mysql.com/doc/refman/5.7/en/point-in-time-recovery.html
原文地址:http://blog.itpub.net/29773961/viewspace-2143726/
上节我们说到如何备份二进制文件时说到通过--read-from-remote-server 连接数据库,
上图上有个warning,说的是如果用--database了,可能会过滤掉一些事务
如果不小心对数据库进行误操作,而又没有及时备份怎么办?这恐怕是广大的coder经常遇到的一类问题。 我今天就因为不小心删除了某个数据库,但最后的备份是1个礼拜前的,唯一能解决的办法就是通过mysqlbinlog来恢复了。解决方案如下: 如果MySQL服务器启用了二进制日志,你可以使用mysqlbinlog工具来恢复从指定的时间点开始(例如,从你最后一次备份)直到现在或另一个指定的时间点的数据。 要想从二进制日志恢复数据,你需要知道当前二进制日志文件的路径和文件名。 一般可以从配置文件(一般情况,Linux下
1.下载 git clone https://gitee.com/mo-shan/analysis_binlog cd analysis_binlog
有备份的话很简单,只需要生成一个最近备份的数据 然后用mysqlbinlog找回备份时间点之后的数据 再恢复到现网即可。
在 mysql 配置文件中配置 log-bin,重启 mysql my.cnf (on Linux/unix) or my.ini (on Windows) 例子:
有备份的话很简单,只需要生成一个最近备份的数据 然后用mysqlbinlog找回备份时间点之后的数据 再恢复到现网即可。 要是没有备份 可能就会比较麻烦,找回数据的成本也是非常之高的. 下面介绍下 mysqlbinlog找回备份时间点之后的数据的办法: 做个简单的实验,将mysql的表数据删除之后,然后用mysqlbinlog 找回刚才删除的表的数据。 app表的创建时间和数据的插入: 2013-02-04 10:00:00 原理: mysqlbinlog 前提: m
MYSQL官方截止目前还没有出来数据闪回特性,也许后续版本会出现。社区有一些开源工具可以使用,沿用的基本都是彭立勋最早提出的思路,利用binlog对SQL进行反向解析,从而实现数据闪回,例如不带where条件的update操作,导致全表数据被误更新。 闪回前提: binlog_format = ROW 操作模拟: 没加where条件,导致全表更新;或者没加host列,导致多余行被更新。 我只想把user=test_user1,host=1.1.1.1改密码,但是没加host条件。此时并没有及时发现,直到报错
维护mysql的时候,总会遇到数据库恢复的例子。如果把备份集恢复出来相对比较简单。然而如果遇到恢复到时间点的例子,把一个MySQL实例恢复出来之后,需要执行binlog做增量恢复。 常见的办法是用mysqlbinlog解析binlog,将解析出来的内容重定向到mysql命令行执行。在MySQL手册中也是推荐使用mysqlbinlog工具来实现指定时间点的数据恢复。事实上,这是一个经常“让人郁闷”的办法。更好的办法是,使用MySQL内部复制线程中的SQL Thread来做恢复。
MySQL实时增量备份,采用binlog日志的好处 掌控所有更改操作,必要时可用于恢复数据 数据库主从复制的必要条件
二进制日志,记录对数据发生或潜在发生更改的SQL语句,并以二进制的形式保存在磁盘中。
针对存储引擎为myisam的表,能够直接复制frm、myd、myi这三个文件起到备份的效果。须要还原的时候,再复制回来就能够达到还原效果。
MySQL的二进制日志binlog可以说是MySQL最重要的日志,它记录了所有的DDL和DML语句(除了数据查询语句select),以事件形式记录,还包含语句所执行的消耗的时间。
要查看 relay 日志得使用 SHOW RELAYLOG EVENTS ,如果使用 SHOW BINLOG EVENTS 会报找不到文件的错误
注意: –>binlog是二进制文件,普通文件查看器cat、more、vim等都无法打开,必须使用自带的mysqlbinlog命令查看 –>binlog日志与数据库文件在同目录中 –>在MySQL5.5以下版本使用mysqlbinlog命令时如果报错,就加上 “–no-defaults”选项
在工作中,我们误删数据或者数据库,我们一定需要跑路吗?我看未必,程序员一定要学会自救,神不知鬼不觉的将数据找回。
https://dev.mysql.com/doc/refman/5.7/en/backup-and-recovery.html
今天是《MySQL核心知识》专栏的第14章,今天为大家系统的讲讲MySQL中的数据备份与恢复,希望通过本章节的学习,小伙伴们能够举一反三,彻底掌握MySQL中的数据备份与恢复相关的知识。好了,开始今天的正题吧。
MySQL的二进制日志(Binary Log, Binlog)是MySQL数据库中非常核心的技术之一,它记录了数据库中所有的DDL和DML操作,对于数据的恢复、复制等都起着至关重要的作用。今天我们将通过实际的binlog日志内容,深入探讨MySQL的binlog复制技术,理解其背后的运作机制。
show binlog events in 'mysql-bin.000002' 查看指定文件
sql_log_bin = {ON|OFF} 是否记录二进制日志。启用二进制记录日志,则这项必须是ON
问题展示: [root@localhost bin]# "/usr/local/mysql-8.0.11/bin/mysqlbinlog" "/usr/local/mysql-8.0.11/data/binlog.000025" mysqlbinlog: [ERROR] unknown variable 'default-character-set=utf8' 解决方法: 加入个 –no-defaults 参数就好了。 [root@localhost bin]# "/usr/local/mysql-8.0
通过 bin 下面的 mysqlbinlog 工具来看法 binlog 文件,可以看到都记录了什么。
项目新上线一个月,qa需要测试断电服务拉起,服务拉起成功后,发现mysql主从异常
mysqlbinlog命令默认使用binlog语句将行事件以base-64字符串编码
这些event描述了数据库内容的状态,包含了数据修改,服务器重启等,以二进制的格式写入日志文件
关于误操作删除数据和数据恢复,一定要有安全意识,MySQL数据的找回,一定要在配置bin-log,否则数据丢失将无法恢复:
2.4在MySQL的data目录下打开cmd,选择开始节点和结束节点的数据,并且存放到E盘下的update.sql中
类似于这种功能,当然可以在业务逻辑层实现,在收到用户的删除请求之后执行这一操作,但是数据库的binlog为我们提供了另外一种操作方法.
binlog 基本认识 MySQL的二进制日志可以说是MySQL最重要的日志了,它记录了所有的DDL和DML(除了数据查询语句)语句,以事件形式记录,还包含语句所执行的消耗的时间,MySQL的二进制日志是事务安全型的。
领取专属 10元无门槛券
手把手带您无忧上云