如何使用MySQL实现批量数据推送到MongoDB?
作者:水悠悠予安
时间:2023-05-08
来源:正软商城
浏览:4
importpymongoimportmysql.connector连接MySQL数据库mysql_conn=mysql.connector.connect(host="localhost",user="yourusername",password="yourpassword",database="yourdatabase")连接MongoDB数据库mongo_client=pymongo.MongoClient("mongodb://localhost:27017/")mongo_db=mongo_cl
本文目录
import pymongo import mysql.connector
连接MySQL数据库
mysql_conn = mysql.connector.connect( host="localhost", user="yourusername", password="yourpassword", database="yourdatabase" )
连接MongoDB数据库
mongo_client = pymongo.MongoClient("mongodb://localhost:27017/") mongo_db = mongo_client["mydatabase"] mongo_collection = mongo_db["mycollection"]在MongoDB中为指定集合创建索引
mongo_collection.create_index([("myfield", pymongo.ASCENDING)])缓冲列表和计数器以在每10000行处理后进行批处理
bulk_data = [] bulk_count = 0
创建游标对象并从MySQL数据库检索数据
mysql_cursor = mysql_conn.cursor() mysql_cursor.execute("SELECT * FROM mytable")遍历结果集并处理每个行。
for row in mysql_cursor: # 将一条记录转换成你的MongoDB文档,然后将其添加到缓冲列表。
doc = { "myfield": row[0], "anotherfield": row[1], "yetanotherfield": row[2] } bulk_data.append(doc) bulk_count += 1# 如果我们达到了10000,请在集合中批量插入缓冲数据。 if bulk_count == 10000: mongo_collection.insert_many(bulk_data) # 重置计数器并清除缓冲数据列表 bulk_count = 0 bulk_data.clear()
处理剩余的行,如果有任何事情需要处理。
if bulk_count > 0: mongo_collection.insert_many(bulk_data)
关闭MySQL连接。
mysql_conn.close()
import pymongo
import mysql.connector
# 连接MySQL数据库
mysql_conn = mysql.connector.connect(
host="localhost",
user="yourusername",
password="yourpassword",
database="yourdatabase"
)
# 连接MongoDB数据库
mongo_client = pymongo.MongoClient("mongodb://localhost:27017/")
mongo_db = mongo_client["mydatabase"]
mongo_collection = mongo_db["mycollection"]
# 在MongoDB中为指定集合创建索引
mongo_collection.create_index([("myfield", pymongo.ASCENDING)])
# 缓冲列表和计数器以在每10000行处理后进行批处理
bulk_data = []
bulk_count = 0
# 创建游标对象并从MySQL数据库检索数据
mysql_cursor = mysql_conn.cursor()
mysql_cursor.execute("SELECT * FROM mytable")
# 遍历结果集并处理每个行。
for row in mysql_cursor:
# 将一条记录转换成你的MongoDB文档,然后将其添加到缓冲列表。
doc = {
"myfield": row[0],
"anotherfield": row[1],
"yetanotherfield": row[2]
}
bulk_data.append(doc)
bulk_count += 1
# 如果我们达到了10000,请在集合中批量插入缓冲数据。
if bulk_count == 10000:
mongo_collection.insert_many(bulk_data)
# 重置计数器并清除缓冲数据列表
bulk_count = 0
bulk_data.clear()
# 处理剩余的行,如果有任何事情需要处理。
if bulk_count > 0:
mongo_collection.insert_many(bulk_data)
# 关闭MySQL连接。
mysql_conn.close()
作者最新文章
动漫共和国在线观看地址及入口
2026-11-04 12:06
立刻MV如何查看立刻MV官方操作指引文档
2026-11-02 14:05
抖音创作平台官网登录入口
2026-11-02 10:38
Xshell连接SSH失败怎么办?5步排查网络、代理与认证问题
2026-10-30 14:30
樱花动漫官方正版官网入口在哪_樱花动漫网址2027最新分享
2026-10-28 19:21
热门文章
更多
精品专题
更多
Mac软件
更多
火山引擎 网页版
Windows/ macOS/ Linux
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。
















