当前位置:

首页 > 编程开发 > 如何使用MySQL的binlog备份数据库?

如何使用MySQL的binlog备份数据库?

关于MySQL的二进制日志(binlog),我们都知道二进制日志(binlog)非常重要,尤其当你需要pointtopoint灾难恢复的时侯,所以我们要对其进行备份。关于二进制日志(binlog)的备份,可以基于flushlogs方式先切换binlog,然后拷贝&压缩到到远程服务器或本地服务器的其他存储上,例如挂载的NAS存储,也可以使用mysqlbinlog实现binlog的备份,可以实现MySQL二进制日志(binlog)的本地备份或远程备份。最后将MySQL二进制日志(binlog)的备份文件收到磁

本文目录

    关于MySQL的二进制日志(binlog),我们都知道二进制日志(binlog)非常重要,尤其当你需要point to point灾难恢复的时侯,所以我们要对其进行备份。关于二进制日志(binlog)的备份,可以基于flush logs方式先切换binlog,然后拷贝&压缩到到远程服务器或本地服务器的其他存储上,例如挂载的NAS存储,也可以使用mysqlbinlog实现binlog的备份,可以实现MySQL二进制日志(binlog)的本地备份或远程备份。最后将MySQL二进制日志(binlog)的备份文件收到磁带。各个公司的备份策略或备份工具有所不同,这里不做展开,我们主要考虑MySQL二进制日志(binlog)备份方案/策略尽可能尽善尽美,在一些极端情况下少丢失数据。例如,第一种方式,这种备份方式都是周期性的,如果在某个周期中,遇到一些极端情况,例如服务器宕机了,硬盘损坏了,就可能导致这段时间的binlog丢失了。而且这个周期时间太长,二进制日志(binlog)丢失的风险就越大,如果这个周期太短,频繁切换binlog也不好。所以还是使用mysqlbinlog来备份二进制日志(binlog),这里主要介绍一下我写的MySQL二进制日志的备份脚本,这个脚本参考了如何远程备份MySQL binlog[1]中的脚本,但是在其基础上做了很多改进和完善:

    • 参考资料中的脚本由于使用了循环操作,不适合在作业中调用。一般需要手工执行脚本,让其在后台运行。遇到服务器重启或其他异常情况,此脚本可能出现未能执行的情况。

    • 增加了mysql_binlog_backup_job.sh脚本,作业会定期调用此脚本,此脚本会判断mysqlbinlog是否还在执行二进制日志备份。如果遇到了数据库服务器重启等情况,也不会担心MySQL的二进制日志(binlog)的备份停掉的问题。

    • 不用手工指定第一个binlog文件参数,采用从数据库读取binlog的值.如果是在本地服务器执行binlog的备份,还可以从二进制日志索引文件中获取(参考脚本注释部分)

    • 使用mysql_config_editor配置账号密码,避免在脚本中使用数据库用户的明文密码。

    • 邮件告警处理。

    在使用脚本前,必须配置mailx,创建数据库连接账号

    create user bkuser@'xxx.xxx.xxx.xxx' identified by "******";
    grant  replication client on *.* to bkuser@'%';
    grant  replication slave on *.* to bkuser@'%';

    这个根据实际情况调整,例如我就是使用Xtrabackup的账号来备份MySQL的binlog。 另外,如果在MySQL数据库服务器本机备份binlog,那么就在本机安全加密登录,如果是在远程服务器备份binlog的话,就在远程服务器配置

    $ mysql_config_editor set  --login-path=server1_dbbackup -h xxx.xxx.xxx.xxx -ubkuser -p -P 3306
    Enter password:

    mysql_binlog_backup_job.sh脚本

    #!/bin/sh
    
    #########################################################################################
    #                                                                                       #
    # This script is used for mysql binlog backup.                                          #
    #                                                                                       #
    # #######################################################################################
    #                                                                                       #
    # ScriptName            :    mysql_binlog_backup_job.sh                                 #
    # Author                :    潇湘隐者                                                     #
    # CerateDate            :    2017-04-14                                                 #
    # Description           :                                                               #
    #---------------------------------------------------------------------------------------#
    #                         作业中调用此脚本,然后此脚本去调用mysql_binlog_backup.sh执行      #
    #                         MySQL的二进制日志备份(将MySQL的二进制日志备份到NAS存储或备份存#
    #                         储上),此脚本还会判断mysqlbinlog是否在一直在备份二进制日志,  #
    #                         如果是的话,则退出当前脚本。如果mysqlbinlog已经由于服务器重   #
    #                         启等原因退出了,则会重新调用mysql_binlog_backup.sh            #
    #***************************************************************************************#
    # Version        Modified Date            Description                                   #
    #***************************************************************************************#
    # V.1.0          2016-06-20     create the script for mysql binlog backp                #
    # V.1.1          2016-07-26     fix some bug                                            #
    # V.1.2          2023-04-14     $FIRST_BINLOG从MySQL中获取,即使远程备份也不用手工      #
    #                               设定,本地备份也可以这种方式,本地备份默认从             #
    #                                mysql binlog index file读取                            #
    #########################################################################################
    
    #mysql binlog备份文件的保留天数
    KEEPY_DAYS=7
    FIRST_BINLOG=''
    LOG_DATE=$(date +%Y_%m_%d_%H_%M_%S)
    BACKUP_DATE=$(date +%Y_%m_%d_%H_%M_%S)
    LOCAL_BACKUP_DIR=/dbbackup/mysql_backup/db_backup/binlog_backup
    #MYSQL_BINLOG_INDEX=/data/bin_logs/mysql_binlog.index
    MYSQL_CMD=/opt/mysql/mysql8.0/bin/mysql
    BACKUP_LOG_PATH=/dbbackup/mysql_backup/logs
    ERROR_LOG=${BACKUP_LOG_PATH}/binlog_backup_error_${BACKUP_DATE}.log
    FILE_TYPE="mysql_binlog.*"
    SQL_TEXT='show binary logs'
    MAIL_TO="xxxx@xxx.com.cn"
    MAIL_FROM="xxxx@xxx.com.cn"
    MYSQL_LOGIN_PATH=server1_dbbackup
    error()
    {
     echo "$1" 1>&2
     echo "$1" >> ${ERROR_LOG}
     echo "$1" | mailx -s "The binlog backup on the server `hostname` failed ,please check the log!" -r ${MAIL_FROM} ${MAIL_TO}
     exit 1
    }
    
    ##目录不存在则创建目录
    if [ ! -d $BACKUP_LOG_PATH ];then
           mkdir -p $BACKUP_LOG_PATH
    fi
    
    if [ ! -x /bin/mailx ];then
        error "{LOG_DATE}:mailx did not exists!" 
    fi
    
    if [ ! -x $MYSQL_CMD ];then
       error "{LOG_DATE}: mysql client did not exists!" 
    fi
    #SQL_RESULT=`mysql -h${REMOTE_HOST} -P${PORT} -u${USER_NAME} -p${PASSWORD} ${DATABASE_NAME} -Bse "${SQL_TEXT}"`
    SQL_RESULT=`$MYSQL_CMD --login-path=${MYSQL_LOGIN_PATH} -Bse "${SQL_TEXT}"`
    FIRST_BINLOG=`echo ${SQL_RESULT} | awk '{print $1}'`
    echo $FIRST_BINLOG
    
    if [ ! $FIRST_BINLOG ];then
       error "${LOG_DATE}: please check the mysql binlog"  
    fi
    
    ##create local_backup_dir if this folder is not exists
    if [ ! -d ${LOCAL_BACKUP_DIR} ];then
      mkdir -p ${LOCAL_BACKUP_DIR}
    fi
    if [ ! -e ${MYSQL_BINLOG_INDEX} ];then
      error "${LOG_DATE}:mysql binlog index file did not exists, please check it!" 
    fi
    
    #删除KEEPY_DAYS天之前的binlog备份文件
    find ${LOCAL_BACKUP_DIR} -name "${FILE_TYPE}" -type f -mtime +$KEEPY_DAYS -delete
    #删除30天前的错误日志
    find ${BACKUP_LOG_PATH} -name "binlog_backup_error*.log"   -mtime 30 -delete
    process_num=$(ps -ef | grep -w mysqlbinlog | grep -v grep |wc -l)
    
    if [ ${process_num} -ge 1 ];then
           exit 1 
    else
      #如果是在本机备份binlog到NAS存储或备份存储上,从二进制文件的索引获取当前MySQL数据库最小的binlog文件
      #如果是远程备份二进制日志(binlog)的话,则使用下面注释的脚本获取
      #FIRST_BINLOG=$(head -1 ${MYSQL_BINLOG_INDEX})
      #FIRST_BINLOG=$(find ${LOCAL_BACKUP_DIR} -name "mysql_binlog.*"  -printf "%p\t%C@\n" | sort -k2 -g |head -1 | awk '{print $1}' | awk -F "/" '{print $NF}') 
      echo ${FIRST_BINLOG}
      nohup sh /dbbackup/mysql_backup/scripts/mysql_binlog_backup.sh ${FIRST_BINLOG} ${LOCAL_BACKUP_DIR} ${FILE_TYPE} &
    fi

    mysql_binlog_backup.sh脚本

    #!/bin/sh
    
    #########################################################################################
    #                                                                                       #
    # This script is used for mysql binlog local or remote backup.                          #
    #                                                                                       #
    # #######################################################################################
    #                                                                                       #
    # ScriptName            :    mysql_binlog_backup.sh                                     #
    # Author                :    Kerry                                                      #
    # CerateDate            :    2017-04-14                                                 #
    # Description           :                                                               #
    #---------------------------------------------------------------------------------------#
    #                         此脚本参考了https://www.cnblogs.com/ivictor/p/5502240.html    #
    #                         的脚本,在它的基础上做了一些改进,例如,ivitcor中脚本备份binlog#
    #                         如果服务器重启了,则必须手动执行脚本.......                   #
    #***************************************************************************************#
    # Version        Modified Date            Description                                   #
    #***************************************************************************************#
    # V.1.0          2016-06-20     create the script for mysql binlog backp                #
    # V.1.1          2016-07-26     fix some bug                                            #
    #########################################################################################
    
    BACKUP_BIN=/opt/mysql/mysql8.0/bin/mysqlbinlog
    BACKUP_LOG_PATH=/dbbackup/mysql_backup/logs
    LOG_DATE=$(date +%Y_%m_%d_%H_%M_%S)
    BACKUP_LOG=${BACKUP_LOG_PATH}/binlog_backup.log
    ERROR_LOG=${BACKUP_LOG_PATH}/binlog_backup_error_${LOG_DATE}.log
    #复制二进制日志的主机,可以远程MySQL数据库也可以是本机
    MYSQL_LOGIN_PATH=server1_dbbackup
    #time to wait before reconnecting after failure
    SLEEP_SECONDS=10
    MAIL_TO="xxx@xxx.com.cn"
    MAIL_FROM="xxx@xxx.com.cn"
    
    error()
    {
     echo "$1" 1>&2
     echo "$1" >> ${ERROR_LOG}
     echo "$1" | mailx -s "The binlog backup on the server `hostname` failed ,please check the log!" -r ${MAIL_FROM} ${MAIL_TO}
     exit 1
    }
    ##目录不存在则创建目录
    if [ ! -d $BACKUP_LOG_PATH ];then
           mkdir -p $BACKUP_LOG_PATH
    fi
    
    
    if [ "$#" -ne 3];then   
        error "${LOG_DATE}:you must input 3 arguments" 
    fi
    
    if [ ! $1 ];then
        error "${LOG_DATE}:first_binlog arguments is null" 
    else
        FIRST_BINLOG=$1
    fi
    
    if [ ! $2 ];then
        error "${LOG_DATE}:local_backup_dir arguments is null" 
    else
        LOCAL_BACKUP_DIR=$2
    fi
    
    if [ ! $3 ];then
        error "${LOG_DATE}:file_type arguments is null" 
    else
        FILE_TYPE=$3
    fi
    ##检查mysqlbinlog二进制文件是否存在
    if [ ! -x ${BACKUP_BIN} ];then
           error "${LOG_DATE}:mysqlbinlog did not exists, please check it!" 
    fi
    cd ${LOCAL_BACKUP_DIR}
    
    ## 运行while循环,连接断开后等待指定时间,重新连接
    while :
    do
      #如果当前备份二进制日志目录为空,则使用MySQL实例最小的二进制日志文件名
      if [ `ls -A "${LOCAL_BACKUP_DIR}" |wc -l` -eq 0 ];then
         LAST_BINLOG_FILE=${FIRST_BINLOG}
      else
         #LAST_FILE=`ls -l ${LOCAL_BACKUP_DIR} | grep -v backuplog |tail -n 1 |awk '{print $9}'`
         #echo ${LOCAL_BACKUP_DIR}
         #echo ${FILE_TYPE}
         #取mysqlbinlog备份的最后一个binlog文件名
         LAST_BINLOG_FILE=`find ${LOCAL_BACKUP_DIR} -name "${FILE_TYPE}"  -printf "%p\t%C@\n" | sort -k2 -g |tail -1 | awk '{print $1}' | awk -F "/" '{print $NF}'`
      fi
      #${BACKUP_BIN} --login-path=${MYSQL_LOGIN_PATH} --read-from-remote-server --raw --stop-never --host=${REMOTE_HOST} --port=${REMOTE_PORT}  ${LAST_BINLOG_FILE}
      ${BACKUP_BIN} --login-path=${MYSQL_LOGIN_PATH} --read-from-remote-server --raw --stop-never   ${LAST_BINLOG_FILE}
      echo "`date +"%Y/%m/%d %H:%M:%S"` mysqlbinlog停止,返回代码:$?" | tee -a ${BACKUP_LOG}
      echo "${SLEEP_SECONDS}秒后再次连接并继续备份" | tee -a ${BACKUP_LOG}  
      sleep ${SLEEP_SECONDS}
    done

    配置作业

    */10 * * * * /dbbackup/mysql_backup/scripts/mysql_binlog_backup_job.sh >> /dbbackup/mysql_backup/logs/mysql_binlog_back.log 2>&1
    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 MySQL
    相关文章 更多
    navicat导入数据库步骤详解及常见问题处理教程
    navicat导入数据库步骤详解及常见问题处理教程

    详解Navicat导入数据库的标准步骤,涵盖SQL脚本执行与CSV数据导入两种核心场景。针对导入过程中常见的字符集乱码、主键冲突及外键约束错误,提供具体的设置方法与修复建议,确保数据迁移准确无误。

    SQL主键约束和唯一约束有什么区别
    SQL主键约束和唯一约束有什么区别

    深入理解SQL PRIMARY KEY与UNIQUE约束的区别。文章从行标识与重复限制的目标出发,详解主键的非空特性、外键引用角色以及多数据库对NULL值的处理差异。结合users表实战示例,指导开发者如何根据字段稳定性与业务语义合理选择约束类型,避免设计误区。

    SQL约束有哪些类型及作用
    SQL约束有哪些类型及作用

    刚开始设计关系型数据库?了解PRIMARY KEY、FOREIGN KEY、UNIQUE、NOT NULL、CHECK、DEFAULT等约束的作用、语法和排错方法。本文以PostgreSQL语法为主,结合用户订单场景,清晰展示如何防止脏数据并处理常见约束冲突。

    SQL游标常见错误排查:死锁与资源未释放问题
    SQL游标常见错误排查:死锁与资源未释放问题

    深入解析SQL游标导致的死锁与资源未释放问题。通过PostgreSQL与MySQL语法对比,展示如何识别长事务持锁、分析锁等待链,并提供短事务提交、异常清理及批量处理的最佳实践,确保数据库连接与锁资源及时释放。

    SQL中怎么创建和删除约束
    SQL中怎么创建和删除约束

    后端开发者在维护数据库时,常需对现有表添加主键、唯一或外键约束。若直接执行ADD CONSTRAINT,往往因存量数据不合规导致报错。本文详解操作前的数据清洗步骤、标准SQL语法及MySQL等特殊写法,帮助你在生产环境安全完成结构变更。

    SQL分组统计查询:GROUP BY与HAVING子句用法示例
    SQL分组统计查询:GROUP BY与HAVING子句用法示例

    针对 SQL 初学者的分组统计实战指南。深入解析 GROUP BY 分组机制、WHERE 与 HAVING 的执行时机差异,以及 COUNT 函数对 NULL 值的处理逻辑。通过具体代码示例演示如何正确筛选聚合结果,并排查因 JOIN 连接导致的统计数据异常,提升报表准确性。

    SQL Server与MySQL游标基本语法及完整代码示例
    SQL Server与MySQL游标基本语法及完整代码示例

    本文详细对比SQL Server和MySQL中游标的基本用法。从DECLARE声明到FETCH遍历,再到CLOSE关闭与DEALLOCATE/Handler清理,解析两者在语法结构、变量接收及异常处理上的核心差异。通过标准代码示例展示如何安全使用游标,避免资源泄漏,适用于需要进行数据库存储过程开发或跨平台迁移的开发者。

    SQL多表连接区别:INNER JOIN与LEFT JOIN的使用场景
    SQL多表连接区别:INNER JOIN与LEFT JOIN的使用场景

    深入解析SQL中INNER JOIN与LEFT JOIN的核心区别。通过users和orders表实例,展示匹配行保留与NULL补位机制,重点讲解ON与WHERE子句中放置右表过滤条件的不同后果,提供防止LEFT JOIN退化的实战技巧及行数异常排查步骤。

    SQL CHECK约束的用法与取值范围限制
    SQL CHECK约束的用法与取值范围限制

    深入理解 SQL CHECK 约束在 PostgreSQL、MySQL 等数据库中的实现差异。文章通过订单业务场景,讲解如何定义单列范围与多列逻辑约束,分析 NULL 值对布尔条件的影响,并提供修改已有表结构时的安全操作建议,帮助开发者构建更健壮的数据完整性防线。

    SQL外键约束怎么用及级联操作说明
    SQL外键约束怎么用及级联操作说明

    后端开发中,如何正确使用 SQL 外键约束来维护订单与明细表的关系?本文通过 PostgreSQL 示例,深入讲解外键的创建语法、插入顺序要求,以及 ON DELETE CASCADE、RESTRICT、SET NULL 等策略的实际影响与风险控制,助你构建健壮的数据库结构。

    查看更多
    精品专题 更多
    装机必备
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows
    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程
    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    Mac软件 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    Aperty macOS版
    Aperty macOS版
    macOS

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    WINDOWS 更多
    讯飞智作 网页版
    讯飞智作 网页版
    Windows/ macOS/ Linux

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    火山引擎 网页版
    火山引擎 网页版
    Windows/ macOS/ Linux

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    PixTV 网页版
    PixTV 网页版
    Windows

    PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台,提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具,适合短剧、漫剧、广告及社交媒体内容制作。