[实践OK]通过编辑发现某用户的异常时间反推mysql的binLog查找黑客replace的成bbs论坛会员标志的sql数据,使用 MYSQLBINLOG 来恢复数据。二月 4th, 2010mysqlbinlog:处理mysql binlog二进制日志文件的实用工具

jackxiang 2010-9-27 23:45 | |
Bin-log时间主要看文件时间,可以直接: /usr/local/mysql/bin/mysqlbinlog /data/mysql/3306/mysql-bin.000197 | less  ,报错则将/etc/my.cnf里的MysqlClient里的Charset干掉即可。ll -h *,查看大小。
出现问题:/usr/local/mysql/bin/mysqlbinlog /data/mysql/3306/mysql-bin.000197 --database=newbbs > /tmp/000197.sql
mysqlbinlog: [ERROR] unknown variable 'default-character-set=utf8'  怎么办?

vi /etc/my.cnf把那个
[client]
[client]
default-character-set = utf8  #删除这行即可,不用下文的重启Mysql服务器@ https://www.cnblogs.com/cobbliu/p/4311926.html
----------------------------------------------------------------------------------------------------------------------------------------------------------



如何看Bin-log里的SQL产生的时间范围?



-------------------------------------------------------------------------------------

问:兄弟们,
有没有mysql同步出现延迟看哪些sql正在执行的方法?
我这边听说同步20分钟的延迟了。

答:是否进程太多了啊
记得原来抢码时出现过同步延迟
但20分钟不大可能吧,已经超出最长设定了
要么就是你现在的进程已经互锁了,导致mysql已经僵死了

————————————————————————————————————————————————————————————————————
同步延迟一般是正在执行的event的IO问题, 现在的DBA只要不是小白, 都不会采用SQL同步了
/usr/local/mysql/bin/mysqlbinlog ./mysql-bin.000001 --start-datetime="2015-06-14 00:00:00" --stop-datetime="2015-06-16 17:00:00" --result-file=./test2.sql
————————————————————————————


例如我需要查看mysql 在2010-05-21 06:00:00——2010-05-21 07:00:00期间的binlog (sql 格式)
mysqlbinlog --start-datetime="2010-05-21 06:00:00" --stop-datetime="2010-05-21 07:00:00" mysql-bin.000011 > mybinlog.sql



mysqlbinlog参数说明:
---database=db_name,-d db_name
只列出该数据库的条目(只用本地日志)。
–result-file=name, -r name
将输出指向给定的文件。
-r, --result-file=name
                      Direct output to a given file. With --raw this is a
                      prefix for the file names.
———————————————————————————————————————————————

1)为了帮助网友解决“mysql,使用mysqlbinlog查看日志的问题,具体解决方案如下:
mysqlbinlog mysql-bin.00005 --startdatetime='时间' --stopdatetime='时间' --database=DB_name

2)mysql_home/bin有个mysqlbinlog工具可以查看mysql二进制日志
  mysql_install_path/bin/mysqlbinlog --start-datetime="2011-12-16 16:00:00" --stop-datetime="2011-12-16 17:00:00" --result-file=/mysql-bin.000001.log --database=name=test mysql-bin.000001

转载 [原创]使用 MYSQLBINLOG 来恢复数据:
http://blog.chinaunix.net/uid-259788-id-2139251.html?page=2

mysqlbinlog二进制日志查看工具 :
http://blog.itpub.net/7970627/viewspace-718277/


服务器生成的二进制日志文件写成二进制格式。要想检查这些文本格式的文件,应使用mysqlbinlog实用工具。

应这样调用mysqlbinlog:

shell> mysqlbinlog [options] log-files...
例如,要想显示二进制日志binlog.000003的内容,使用下面的命令:

shell> mysqlbinlog binlog.0000003
输出包括在binlog.000003中包含的所有语句,以及其它信息例如每个语句花费的时间、客户发出的线程ID、发出线程时的时间戳等等。


通常情况,可以使用mysqlbinlog直接读取二进制日志文件并将它们用于本地MySQL服务器。也可以使用–read-from-remote-server选项从远程服务器读取二进制日志。

当读取远程二进制日志时,可以通过连接参数选项来指示如何连接服务器,但它们经常被忽略掉,除非你还指定了–read-from-remote-server选项。这些选项是–host、–password、–port、–protocol、–socket和–user。

还可以使用mysqlbinlog来读取在复制过程中从服务器所写的中继日志文件。中继日志格式与二进制日志文件相同。

在5.11.3节,“二进制日志”中详细讨论了二进制日志。


mysqlbinlog支持下面的选项:

·         ---help,-?

显示帮助消息并退出。

·         ---database=db_name,-d db_name

只列出该数据库的条目(只用本地日志)。

·         --force-read,-f

使用该选项,如果mysqlbinlog读它不能识别的二进制日志事件,它会打印警告,忽略该事件并继续。没有该选项,如果mysqlbinlog读到此类事件则停止。

·         --hexdump,-H

在注释中显示日志的十六进制转储。该输出可以帮助复制过程中的调试。在MySQL 5.1.2中添加了该选项。

·         --host=host_name,-h host_name

获取给定主机上的MySQL服务器的二进制日志。

·         --local-load=path,-l pat

为指定目录中的LOAD DATA INFILE预处理本地临时文件。

·         --offset=N,-o N

跳过前N个条目。

·         --password[=password],-p[password]

当连接服务器时使用的密码。如果使用短选项形式(-p),选项和 密码之间不能有空格。如果在命令行中--password或-p选项后面没有 密码值,则提示输入一个密码。

·         --port=port_num,-P port_num

用于连接远程服务器的TCP/IP端口号。

·         --position=N,-j N

不赞成使用,应使用--start-position。

·         --protocol={TCP | SOCKET | PIPE | -position

使用的连接协议。

·         --read-from-remote-server,-R

从MySQL服务器读二进制日志。如果未给出该选项,任何连接参数选项将被忽略。这些选项是--host、--password、--port、--protocol、--socket和--user。

·         --result-file=name, -r name

将输出指向给定的文件。

·         --short-form,-s

只显示日志中包含的语句,不显示其它信息。

·         --socket=path,-S path

用于连接的套接字文件。

·         --start-datetime=datetime

从二进制日志中第1个日期时间等于或晚于datetime参量的事件开始读取。datetime值相对于运行mysqlbinlog的机器上的本地时区。该值格式应符合DATETIME或TIMESTAMP数据类型。例如:

shell> mysqlbinlog --start-datetime="2004-12-25 11:25:56" binlog.000003
该选项可以帮助点对点恢复。

·         --stop-datetime=datetime

从二进制日志中第1个日期时间等于或晚于datetime参量的事件起停止读。关于datetime值的描述参见--start-datetime选项。该选项可以帮助及时恢复。

·         --start-position=N

从二进制日志中第1个位置等于N参量时的事件开始读。

·         --stop-position=N

从二进制日志中第1个位置等于和大于N参量时的事件起停止读。

·         --to-last-logs,-t

在MySQL服务器中请求的二进制日志的结尾处不停止,而是继续打印直到最后一个二进制日志的结尾。如果将输出发送给同一台MySQL服务器,会导致无限循环。该选项要求--read-from-remote-server。

·         --disable-logs-bin,-D

禁用二进制日志。如果使用--to-last-logs选项将输出发送给同一台MySQL服务器,可以避免无限循环。该选项在崩溃恢复时也很有用,可以避免复制已经记录的语句。注释:该选项要求有SUPER权限。

·         --user=user_name,-u user_name

连接远程服务器时使用的MySQL用户名。

·         --version,-V

显示版本信息并退出。

还可以使用--var_name=value选项设置下面的变量:

·         open_files_limit

指定要保留的打开的文件描述符的数量。

可以将mysqlbinlog的输出传到mysql客户端以执行包含在二进制日志中的语句。如果你有一个旧的备份,该选项在崩溃恢复时也很有用(参见5.9.1节,“数据库备份”):

shell> mysqlbinlog hostname-bin.000001 | mysql
或:

shell> mysqlbinlog hostname-bin.[0-9]* | mysql
如果你需要先修改含语句的日志,还可以将mysqlbinlog的输出重新指向一个文本文件。(例如,想删除由于某种原因而不想执行的语句)。编辑好文件后,将它输入到mysql程序并执行它包含的语句。

mysqlbinlog有一个--position选项,只打印那些在二进制日志中的偏移量大于或等于某个给定位置的语句(给出的位置必须匹配一个事件的开始)。它还有在看见给定日期和时间的事件后停止或启动的选项。这样可以使用--stop-datetime选项进行点对点恢复(例如,能够说“将数据库前滚动到今天10:30 AM的位置”)。

如果MySQL服务器上有多个要执行的二进制日志,安全的方法是在一个连接中处理它们。下面是一个说明什么是不安全的例子:

shell> mysqlbinlog hostname-bin.000001 | mysql # DANGER!!
shell> mysqlbinlog hostname-bin.000002 | mysql # DANGER!!
使用与服务器的不同连接来处理二进制日志时,如果第1个日志文件包含一个CREATE TEMPORARY TABLE语句,第2个日志包含一个使用该临时表的语句,则会造成问题。当第1个mysql进程结束时,服务器撤销临时表。当第2个mysql进程想使用该表时,服务器报告 “不知道该表”。

要想避免此类问题,使用一个连接来执行想要处理的所有二进制日志中的内容。下面提供了一种方法:

shell> mysqlbinlog hostname-bin.000001 hostname-bin.000002 | mysql
另一个方法是:

shell> mysqlbinlog hostname-bin.000001 >  /tmp/statements.sql
shell> mysqlbinlog hostname-bin.000002 >> /tmp/statements.sql
shell> mysql -e "source /tmp/statements.sql"
mysqlbinlog产生的输出可以不需要原数据文件即可重新生成一个LOAD DATA INFILE操作。mysqlbinlog将数据复制到一个临时文件并写一个引用该文件的LOAD DATA LOCAL INFILE语句。由系统确定写入这些文件的目录的默认位置。要想显式指定一个目录,使用--local-load选项。

因为mysqlbinlog可以将LOAD DATA INFILE语句转换为LOAD DATA LOCAL INFILE语句(也就是说,它添加了LOCAL),用于处理语句的客户端和服务器必须配置为允许LOCAL操作。参见5.6.4节,“LOAD DATA LOCAL安全问题”。

警告:为LOAD DATA LOCAL语句创建的临时文件不会自动删除,因为在实际执行完那些语句前需要它们。不再需要语句日志后应自己删除临时文件。文件位于临时文件目录中,文件名类似original_file_name-#-#。

--hexdump选项可以在注释中产生日志内容的十六进制转储:

shell> mysqlbinlog --hexdump master-bin.000001
上述命令的输出应类似:

/*!40019 SET @@session.max_insert_delayed_threads=0*/;
/*!50003 SET @OLD_COMPLETION_TYPE=@@COMPLETION_TYPE,COMPLETION_TYPE=0*/;
# at 4
#051024 17:24:13 server id 1  end_log_pos 98
# Position  Timestamp   Type   Master ID        Size      Master Pos    Flags
# 00000004 9d fc 5c 43   0f   01 00 00 00   5e 00 00 00   62 00 00 00   00 00
# 00000017 04 00 35 2e 30 2e 31 35  2d 64 65 62 75 67 2d 6c |..5.0.15.debug.l|
# 00000027 6f 67 00 00 00 00 00 00  00 00 00 00 00 00 00 00 |og..............|
# 00000037 00 00 00 00 00 00 00 00  00 00 00 00 00 00 00 00 |................|
# 00000047 00 00 00 00 9d fc 5c 43  13 38 0d 00 08 00 12 00 |.......C.8......|
# 00000057 04 04 04 04 12 00 00 4b  00 04 1a                |.......K...|
#       Start: binlog v 4, server v 5.0.15-debug-log created 051024 17:24:13
#       at startup
ROLLBACK;
十六进制转储的输出包含下面的元素:

·         Position: The byte position within the log file.

·         Timestamp: The event timestamp. In the example just shown, '9d fc 5c 43' is the representation of '051024 17:24:13' in hexadecimal.

·         Type: The type of the log event. '0f' means that the example event is a FORMAT_DESCRIPTION_EVENT. The types are:

·                00  UNKNOWN_EVENT
·                    This event should never be present in the log.
·                01  START_EVENT_V3
·                    This indicates the start of a log file written by MySQL 4 or earlier.
·                02  QUERY_EVENT
·                    The most common type of events.  These contain queries executed
·                    on the master.
·                03  STOP_EVENT
·                    Indicates that master has stopped.
·                04  ROTATE_EVENT
·                    Written when the master switches to a new log file.
·                05  INTVAR_EVENT
·                    Used mainly for AUTO_INCREMENT values and if the LAST_INSERT_ID()
·                    function is used in the statement.
·                06  LOAD_EVENT
·                    Used for LOAD DATA INFILE in MySQL 3.23.
·                07  SLAVE_EVENT
·                    Reserved for future use.
·                08  CREATE_FILE_EVENT
·                    Used for LOAD DATA INFILE statements.  This indicates the start
·                    of execution of such a statement.  A temporary file is created
·                    on the slave.  Used in MySQL 4 only.
·                09  APPEND_BLOCK_EVENT
·                    Contains data for use in a LOAD DATA INFILE statement.  The
·                    data is stored in the temporary file on the slave.
·                0a  EXEC_LOAD_EVENT
·                    Used for LOAD DATA INFILE statements.  The contents of the
·                    temporary file is stored in the table on the slave.
·                    Used in MySQL 4 only.
·                0b  DELETE_FILE_EVENT
·                    Rollback of LOAD DATA INFILE statement.  The temporary file
·                    should be deleted on slave.
·                0c  NEW_LOAD_EVENT
·                    Used for LOAD DATA INFILE in MySQL 4 and earlier.
·                0d  RAND_EVENT
·                    Used to send information about random values if the RAND()
·                    function is used in the query.
·                0e  USER_VAR_EVENT
·                    Used to replicate user variables.
·                0f  FORMAT_DESCRIPTION_EVENT
·                    This indicates the start of a log file written by MySQL 5 or later.
·                10  XID_EVENT
·                    Event indicating commit of XA transaction
·                11  BEGIN_LOAD_QUERY_EVENT
·                    Used for LOAD DATA statements in MySQL 5 and later.
·                12  EXECUTE_LOAD_QUERY_EVENT
·                    Used for LOAD DATA statements in MySQL 5 and later.
·                13  TABLE_MAP_EVENT
·                    Reserved for future use
·                14  WRITE_ROWS_EVENT
·                    Reserved for future use
·                15  UPDATE_ROWS_EVENT
·                    Reserved for future use
·                16  DELETE_ROWS_EVENT
·                    Reserved for future use
·         Master ID: The server id of the master that created the event.

·         Size: The size in bytes of the event.

·         Master Pos: The position of the event in the original master log file.

·         Flags: 16 flags.

·                01  LOG_EVENT_BINLOG_IN_USE_F
·                    Log file correctly closed (Used only in FORMAT_DESCRIPTION_EVENT)
·                    If this flag is set (if the flags are e.g. '01 00') in an
·                    FORMAT_DESCRIPTION_EVENT, then the log file has not been
·                    properly closed.  Most probably because of a master crash (for
·                    example, due to power failure).
·                02  Reserved for future use.
·                04  LOG_EVENT_THREAD_SPECIFIC_F
·                    Set if the event is dependent on the connection it was
·                    executed in (example '04 00'), e.g. if the event uses
·                    temporary tables.
·                08  LOG_EVENT_SUPPRESS_USE_F
·                    Set in some circumstances when the event is not dependent on
·                    the current database
其它标志保留用于将来使用。

作者:jackxiang@向东博客 专注WEB应用 构架之美 --- 构架之美,在于尽态极妍 | 应用之美,在于药到病除
地址:https://jackxiang.com/post/3548/
版权所有。转载时必须以链接形式注明作者和原始出处及本声明!


最后编辑: jackxiang 编辑于2018-12-20 10:14
评论列表
发表评论

昵称

网址

电邮

打开HTML 打开UBB 打开表情 隐藏 记住我 [登入] [注册]