登录/ 注册
 找回密码
 立即注册
关闭

CSDN热搜

程序园 精品问答 技术交流 资源下载
返回列表 发新帖
首页 › 业界区 › 业界 ›MySQL 在哪些场景下不会写 binlog

MySQL 在哪些场景下不会写 binlog

寅斫 2 小时前
程序园永久vip申请，500美金$，无限下载程序园所有程序/软件/数据/等
背景

在 MySQL 中，慢日志不仅可以记录在文件中，还可以记录在表中。具体是记录在文件还是表中是由log_output参数决定的。
该参数默认为FILE，即慢日志默认会记录在文件中。如果参数中包含TABLE，则慢日志还会记录在mysql.slow_log中，而mysql.slow_log使用的是 CSV 存储引擎。
最初研究这一问题，是为了确认在主从复制以及组复制（MGR）环境下，mysql.slow_log表中的慢日志是否会同步到其他节点。
随着分析的深入，发现 MySQL 实际上提供了多种机制和开关，用于确保操作不会写入 binlog。
由于 ROW 格式 是目前最常用的 binlog 格式，本文将从 ROW 模式下 MySQL 判断操作是否写入 binlog 的实现逻辑 入手，逐步引出相关控制开关，并分析它们各自的使用场景。
ROW 格式下判断操作是否写入 binlog 的实现逻辑

在 ROW 格式下，将数据变化记录到 binlog 的核心是在binlog_log_row函数中实现的：
  1. int binlog_log_row(TABLE *table, const uchar *before_record,
  2.                    const uchar *after_record, Log_func *log_func) {
  3. bool error = false;
  4.   THD *const thd = table->in_use;
  5. // 判断当前操作是否需要写入 binlog
  6. if (check_table_binlog_row_based(thd, table)) {
  7.     ...
  8.     if (likely(!(error = write_locked_table_maps(thd)))) {
  9.       boolconst has_trans = thd->lex->sql_command == SQLCOM_CREATE_TABLE ||
  10.                              table->file->has_transactions();
  11.       // 根据操作类型，将行镜像写入 binlog
  12.       error = (*log_func)(thd, table, has_trans, before_record, after_record);
  13.     }
  14.   }

  16. return error ? HA_ERR_RBR_LOGGING_FAILED : 0;
  17. }
复制代码
首先调用 check_table_binlog_row_based 判断当前操作是否需要写入 binlog，若需要，则会针对不同的操作类型，调用不同的函数来处理。具体来说：

  • INSERT：Write_rows_log_event::binlog_row_logging_function。
  • UPDATE：Update_rows_log_event::binlog_row_logging_function。
  • DELETE：Delete_rows_log_event::binlog_row_logging_function。
接下来，重点看看check_table_binlog_row_based函数的处理逻辑。
  1. static bool check_table_binlog_row_based(THD *thd, TABLE *table) {
  2. if (table->s->cached_row_logging_check == -1) {
  3.     int const check(table->s->tmp_table == NO_TMP_TABLE &&
  4.                     !table->no_replicate &&
  5.                     binlog_filter->db_ok(table->s->db.str));
  6.     table->s->cached_row_logging_check = check;
  7.   }

  9.   assert(table->s->cached_row_logging_check == 0 ||
  10.          table->s->cached_row_logging_check == 1);

  12. return (thd->is_current_stmt_binlog_format_row() &&
  13.           table->s->cached_row_logging_check &&
  14.           (thd->variables.option_bits & OPTION_BIN_LOG) &&
  15.           mysql_bin_log.is_open());
  16. }
复制代码
要返回 false，只需满足以下任意一个条件：

  • 当前 SQL 语句不能以 ROW 格式记录到 binlog 中：thd->is_current_stmt_binlog_format_row()为 false，例如 DDL 语句。
  • 表不允许写入 binlog：table->s->cached_row_logging_check为 false。
  • 当前线程未启用 binlog：thd->variables.option_bits & OPTION_BIN_LOG为 false。
  • binlog 未打开：mysql_bin_log.is_open() 为 false。
因为第一个条件和第四个条件为 false 的情况并不常见，下面将重点分析table->s->cached_row_logging_check和thd->variables.option_bits & OPTION_BIN_LOG为 false 时的场景。
cached_row_logging_check 为 false 的场景

table->s->cached_row_logging_check的赋值逻辑如下：
  1.   if (table->s->cached_row_logging_check == -1) {
  2.     int const check(table->s->tmp_table == NO_TMP_TABLE &&
  3.                     !table->no_replicate &&
  4.                     binlog_filter->db_ok(table->s->db.str));
  5.     table->s->cached_row_logging_check = check;
  6.   }
复制代码
要使其为 false，必须满足以下任意一个条件：

  • 当前表是临时表： table->s->tmp_table == NO_TMP_TABLE为 false。
  • 库名不满足 --replicate-do-db、--replicate-ignore-db 复制规则：binlog_filter->db_ok(table->s->db.str)为 false。
  • 表设置了 no_replicate。该属性是在open_table_from_share()函数中根据表的类型和存储引擎能力标志设置的。
no_replicate 的设置逻辑如下：
  1.   if ((share->table_category == TABLE_CATEGORY_LOG) ||
  2.       (share->table_category == TABLE_CATEGORY_RPL_INFO) ||
  3.       (share->table_category == TABLE_CATEGORY_GTID)) {
  4.     outparam->no_replicate = true;
  5.   } else if (outparam->file) {
  6.     const handler::Table_flags flags = outparam->file->ha_table_flags();
  7.     outparam->no_replicate =
  8.         !(flags & (HA_BINLOG_STMT_CAPABLE | HA_BINLOG_ROW_CAPABLE)) ||
  9.         (flags & HA_HAS_OWN_BINLOGGING);
  10.   } else {
  11.     outparam->no_replicate = false;
  12.   }
复制代码
可以看到，no_replicate 会在以下几种情况设置为 true。
一、特殊类别的表。包括：

  • TABLE_CATEGORY_LOG 类别的表，具体包括 mysql.general_log, mysql.slow_log。
  • TABLE_CATEGORY_RPL_INFO 类别的表，具体包括 mysql.slave_relay_log_info，mysql.slave_master_info，mysql.slave_worker_info。
  • TABLE_CATEGORY_GTID 类别的表，具体包括 mysql.gtid_executed。
二、根据存储引擎的能力标志判断。
这些标志是每个存储引擎单独设置的，一般是在m_int_table_flags或table_flags函数中定义的，主要是用来向 Server 层声明：这个存储引擎的表，支持哪些能力/约束。与复制相关的标志有三个：

  • HA_BINLOG_STMT_CAPABLE：支持 STATEMENT 格式 binlog。
  • HA_BINLOG_ROW_CAPABLE：支持 ROW 格式 binlog
  • HA_HAS_OWN_BINLOGGING：该引擎自己管理 binlog（如 NDB Cluster）。
在 MySQL 支持的存储引擎中，只有 perfschema（对应 performance_schema）和 temptable（MySQL 8.0 引入的内部临时表存储引擎，主要用来替代老的 MEMORY/MyISAM 内部临时表）不会设置 HA_BINLOG_STMT_CAPABLE 或 HA_BINLOG_ROW_CAPABLE。
所以，针对 performance_schema 表的操作不会写入 binlog。
  1. # ls mysql-8.4.3/storage/
  2. archive  blackhole  csv  example  federated  heap  innobase  myisam  myisammrg  ndb  perfschema  secondary_engine_mock  temptable
复制代码
OPTION_BIN_LOG 为 false 的场景

thd->variables保存当前线程的会话级系统变量状态。其中，option_bits 是一个位图（bitmap），用于记录多个线程级选项标志，OPTION_BIN_LOG 则表示是否将当前线程的操作写入 binlog。
以下是几种典型场景。
一、显式关闭会话级 binlog
  1. SET SESSION sql_log_bin = 0;
复制代码
该参数对应的回调函数是fix_sql_log_bin_after_update。
当sql_log_bin = 1时，打开 OPTION_BIN_LOG，反之，则清除 OPTION_BIN_LOG。
  1. static bool fix_sql_log_bin_after_update(sys_var *, THD *thd,
  2.                                          enum_var_type type [[maybe_unused]]) {
  3.   assert(type == OPT_SESSION);

  5.   if (thd->variables.sql_log_bin)
  6.     thd->variables.option_bits |= OPTION_BIN_LOG;
  7.   else
  8.     thd->variables.option_bits &= ~OPTION_BIN_LOG;

  10.   return false;
  11. }
复制代码
二、从库未启用 log_replica_updates
当实例作为从库运行，且未开启 log_replica_updates 时，从库 SQL 线程重放的操作默认不写 binlog。
  1. void set_slave_thread_options(THD *thd) {
  2.   ...
  3.   ulonglong options = thd->variables.option_bits | OPTION_BIG_SELECTS;
  4.   if (opt_log_replica_updates)
  5.     options |= OPTION_BIN_LOG;
  6.   else
  7.     options &= ~OPTION_BIN_LOG;
  8.   ...
  9. }
复制代码
三、使用Disable_binlog_guard临时关闭 binlog
Disable_binlog_guard用于在特定代码块内临时关闭 binlog，并在离开作用域时自动恢复原状态。
  1. class Disable_binlog_guard {
  2.  public:
  3. explicit Disable_binlog_guard(THD *thd)
  4.       : m_thd(thd),
  5.         m_binlog_disabled(thd->variables.option_bits & OPTION_BIN_LOG) {
  6.     thd->variables.option_bits &= ~OPTION_BIN_LOG;
  7.   }

  9.   ~Disable_binlog_guard() {
  10.     if (m_binlog_disabled) m_thd->variables.option_bits |= OPTION_BIN_LOG;
  11.   }

  13. private:
  14.   THD *const m_thd;
  15. constbool m_binlog_disabled;
  16. };
复制代码
Disable_binlog_guard 被调用的场景有：
3.1 实例初始化（--initialize）
  1. static bool handle_bootstrap_impl(handle_bootstrap_args *args) {
  2.   ...
  3. if (opt_initialize) {
  4.     assert(thd->system_thread == SYSTEM_THREAD_SERVER_INITIALIZE);

  6.     sysd::notify("STATUS=Initialization of MySQL system tables in progress\n");
  7.     
  8.     const Disable_binlog_guard disable_binlog(thd);
  9.     const Disable_sql_log_bin_guard disable_sql_log_bin(thd);

  11.     Compiled_in_command_iterator comp_iter;
  12.     rc = process_iterator(thd, &comp_iter, true);

  14.     thd->system_thread = SYSTEM_THREAD_INIT_FILE;

  16.     sysd::notify("STATUS=Initialization of MySQL system tables ",
  17.                  rc ? "unsuccessful" : "successful", "\n");

  19.     if (rc != 0) {
  20.       returntrue;
  21.     }
  22.   }
  23.   ...
  24. returnfalse;
  25. }
复制代码
3.2 实例升级
  1. bool upgrade_system_schemas(THD *thd) {
  2. Disable_autocommit_guard autocommit_guard(thd);
  3.   Bootstrap_error_handler bootstrap_error_handler;

  5. Server_option_guard<bool> acl_guard(&opt_noacl, true);
  6. Server_option_guard<bool> general_log_guard(&opt_general_log, false);
  7. Server_option_guard<bool> slow_log_guard(&opt_slow_log, false);
  8. Disable_binlog_guard disable_binlog(thd);
  9. Disable_sql_log_bin_guard disable_sql_log_bin(thd);
  10.   ...
  11.   bootstrap_error_handler.set_log_error(false);
  12. bool err =
  13.       fix_mysql_tables(thd) || fix_sys_schema(thd) || upgrade_help_tables(thd);
  14. if (!err) {
  15.     /*
  16.       Initialize structures necessary for federated server from mysql.servers
  17.       table.
  18.     */
  19.     servers_init(thd);
  20.     err = (DBUG_EVALUATE_IF("force_fix_user_schemas", true,
  21.                             dd::bootstrap::DD_bootstrap_ctx::instance()
  22.                                 .is_server_upgrade_from_before(
  23.                                     bootstrap::SERVER_VERSION_80011))
  24.                ? check.check_all_schemas(thd)
  25.                : check.check_system_schemas(thd)) ||
  26.           check.repair_tables(thd) ||
  27.           dd::tables::DD_properties::instance().set(
  28.               thd, "MYSQLD_VERSION_UPGRADED", MYSQL_VERSION_ID);
  29.   }
  30.   ...
  31. return dd::end_transaction(thd, err);
  32. }
复制代码
3.3 CREATE SERVER, ALTER SERVER 和 DROP SERVER 操作。
3.4 INSTALL COMPONENT, UNINSTALL COMPONENT 操作。
3.5 INSTALL PLUGIN, UNINSTALL PLUGIN 操作。
3.6 一些内部操作，例如 ALTER TABLE 过程中创建/删除临时表、DROP DATABASE 时清理数据库对象、更新数据字典表、后台线程自动更新列直方图。
除了上面介绍的这些场景，通过将 thd->lex->no_write_to_binlog 设置为true（thd->lex表示当前 SQL 语句的语法解析上下文），可以在语句级别控制该语句不写入 binlog。
NO_WRITE_TO_BINLOG 为 true 的场景

以下场景会将 no_write_to_binlog 设置为 true。

  • SHUTDOWN、RESTART 命令。
  • RESET 系列命令，包括：RESET MASTER, RESET SLAVE, RESET PERSIST。
  • 显式指定NO_WRITE_TO_BINLOG或LOCAL。部分维护类 SQL 命令（OPTIMIZE, ANALYZE, REPAIR, FLUSH）支持在语句中显式指定不写 binlog，如，
  1. OPTIMIZE NO_WRITE_TO_BINLOG TABLE t1;
  2. ANALYZE LOCAL TABLE t1;
  3. REPAIR NO_WRITE_TO_BINLOG TABLE t1;
  4. FLUSH LOCAL PRIVILEGES;
复制代码
需要注意的是，对于FLUSH命令，即使未显式指定NO_WRITE_TO_BINLOG，以下命令默认也不会写入 binlog：NO_WRITE_TO_BINLOG，FLUSH LOGS、FLUSH BINARY LOGS、FLUSH TABLES WITH READ LOCK、FLUSH TABLES tbl_name ... FOR EXPORT。
总结

虽然上面列举的场景较多，但实际上并不需要大家刻意去记。
简单来说，

  • 凡是 MySQL 内部自动执行的操作（即非用户手动执行的操作），通常不会写入 binlog。 典型场景包括：实例初始化与升级、mysql.slow_log表的写入、数据字典的维护、performance_schema表数据的更新等。
  • 对 mysql 库下的表进行 DML 操作，只要不属于上面提到的特殊类别的表，基本都会写入 binlog。
    但若执行的是 DDL 操作（如 truncate），基本都会写入 binlog。
  • 对 performance_schema 中的表进行 DML、DDL 操作会提示权限不足，即便是用 root 用户执行。但部分表允许执行 truncate 操作，且 truncate 操作不会写入 binlog。

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！
MySQL哪些场景不会binlog

使用道具 举报

相关推荐
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册
发帖
寅斫
2 小时前

0

粉丝关注

14

主题发布

板块介绍填写区域，请于后台编辑
微信扫一扫