怎么通过 JDBC 批处理与 RewriteBatchedStatements 参数优化海量数据入库的数据库交互成本

怎么通过 JDBC 批处理与 RewriteBatchedStatements 参数优化海量数据入库的数据库交互成本

处理海量数据入库时，性能瓶颈往往不在代码逻辑本身，而在于与数据库之间那看似不起眼、却又反复发生的交互成本。想象一下，每插入一条数据，就要经历一次“发送SQL → 网络往返 → 数据库解析 → 执行 → 返回结果”的完整链条。数据量一旦上来，这种重复开销就会变得极其可观。

那么，如何大幅压缩这个链条的重复次数呢？核心答案就是：将JDBC批处理与MySQL驱动的rewriteBatchedStatements=true参数组合使用。这套组合拳的精髓在于，它能把程序逻辑上的多次插入，在物理层面合并成一条SQL语句发送给数据库，从而成倍地减少网络通信和SQL解析的开销。

批处理本身怎么写才有效

首先要明确一点：仅仅调用addBatch()而不执行executeBatch()是没有任何效果的。批处理的关键在于“攒一批，再统一发送”，核心是改变“逐条提交”的习惯。

• 使用PreparedStatement：务必使用PreparedStatement而非普通的Statement。前者可以固定SQL模板，只动态绑定参数，效率更高。
• 循环内只添加，不执行：在数据循环中，反复调用pst.setXXX()设置参数，然后调用pst.addBatch()将语句加入批处理队列。切记，此处不要调用executeUpdate()。
• 按合理批次执行：当累积到一定数量（例如500或1000条）后，再调用pst.executeBatch()执行整批操作。执行后，立即调用pst.clearBatch()清空队列，为下一批数据做准备。
• 关闭自动提交：这是一个关键步骤。在开始批处理前，通过conn.setAutoCommit(false)关闭连接的自动提交。在所有批次执行完毕后，再显式调用conn.commit()进行一次性提交。

rewriteBatchedStatements=true 的作用

这个参数绝非可有可无的开关，它直接决定了批处理是停留在“逻辑层面”还是能实现“物理合并”，效果天差地别。

• 未开启时：JDBC驱动虽然会将1000条INSERT语句打包发送，减少Ja va应用层的网络调用次数，但数据库接收到的仍然是1000条独立的“prepare + execute”指令，数据库仍需逐条解析和执行。
• 开启后：驱动会进行“语句重写”，将1000条格式相同的INSERT INTO t VALUES (?,?)，在发送前合并成一条多值语句，例如：INSERT INTO t VALUES (1,'a'),(2,'b'),...,(1000,'z')。这条合并后的SQL才会被发送给MySQL服务器。
• 效果立竿见影：网络传输的数据包数量锐减，服务器端的SQL解析次数从N次降为1次，对于InnoDB存储引擎，日志写入也会更加连续高效。
• 如何配置：只需在数据库连接URL中追加参数即可，例如：jdbc:mysql://host/db?rewriteBatchedStatements=true&useSSL=false。

配套必须做的几件事

只掌握核心技巧还不够，若忽略以下几个配套措施，很容易踩坑，或者无法发挥出最佳性能。

• 连接必须复用：务必使用连接池（如HikariCP、Druid）。频繁创建和销毁数据库连接的开销，足以抵消批处理带来的性能收益。
• 批量大小要实测：批次大小需要根据实际情况测试调整。太小（如50条）合并收益低；太大（如10000条）则可能触发MySQL的max_allowed_packet包大小限制，或给应用和数据库带来内存压力。
• 事务粒度要匹配：通常，一个批次对应一个事务是比较稳妥的做法。对于超大数据导入，可以考虑分段提交（即每N个批次执行一次commit），以防止单个长事务持有锁过久，影响其他业务。
• 操作类型要纯粹：批处理最好专注于同类型的DML操作（INSERT/UPDATE/DELETE）。应避免在批处理中混入查询（SELECT）或DDL（如CREATE、ALTER）语句，这些操作应单独处理。

效果对比很直观

理论说了这么多，实际效果究竟如何？我们来看一个典型的测试场景：向一个三字段的简单表中插入100万条记录。

• 最原始的单条插入：循环调用executeUpdate()，耗时大约在8到12分钟。
• 仅使用批处理（未开启rewrite）：使用addBatch()和executeBatch()，耗时可以缩短到2到3分钟，提升显著。
• 批处理 + rewriteBatchedStatements=true：当开启参数重写后，性能产生质变，耗时通常能压缩到30到50秒之内。

从十多分钟到不到一分钟，这个差距足以说明，在面对海量数据处理时，优化数据库交互策略不是可选项，而是必选项。而“JDBC批处理 + rewriteBatchedStatements”正是这条优化路径上，最直接、最有效的一环。