使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)

今日霍州(www.jrhz.info)©️

DataX 是阿里云 DataWorks 数据集成的开源版本,是阿里巴巴集团内被广泛使用的离线数据同步工具 / 平台。DataX 支持多种异构数据源之间高效的数据同步功能。

1.DataX 工作原理

今日霍州(www.jrhz.info)©️

DataX 作为离线数据同步框架,采用 "Framework + Plugin" 模式构建。将数据源读取和写入抽象为 Reader/Writer 插件,纳入到整个同步框架中。

l Reader 作为数据采集模块,负责采集数据源的数据,将数据发送给 Framework。

l Writer 作为数据写入模块,负责不断向 Framework 获取数据,并将数据写入到目的端。

l Framework 用于连接 Reader 和 Writer,作为两者的数据传输通道,并处理缓冲、流控、并发、数据转换等核心技术问题。

2. 准备工作

2.1 环境要求

l 安装 JDK 1.8 或更高版本

l 安装 Python 2.7 或 3.x

l 下载并解压 DataX 工具包

2.2 数据库准备

在目标数据库中创建与源数据库相同的表结构(DataX 仅迁移数据,不迁移表结构)

确保源数据库和目标数据库都能与运行 DataX 的『服务器』建立网络连接。

3. 迁移数据

DataX 以任务的形式迁移数据。每个任务只处理一个表,每个任务有一个 json 格式的配置文件,配置文件里包含 reader 和 writer 两部分。

配置文件示例:

{"job": {

"content": [{

"reader": {

"name": "mysqlreader",

"parameter": {

"username": "***",

"password": "***",

"column": ["*"],

"connection": [

{"table": ["test"],

"jdbcUrl": ["jdbc:mysql://mysql_ip:3306/mysql_test?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&failOverReadOnly=false&useSSL=false"]

}]}},

"writer": {"name": "oceanbasev10writer","parameter": {"obWriteMode": "insert","column": ["*"],"preSql": [],

"connection": [{"jdbcUrl": "jdbc:mysql://oceanbase_ip:2881/oceanbasetest?useUnicode=true&characterEncoding=UTF-8&useSSL=false&rewriteBatchedStatements=true",

"table": ["test"]}],

"username": "***",

"password":"***",

"writerThreadCount":10,

"batchSize": 1000,

"memstoreThreshold": "0.9"

}}}],

"setting": {

"speed": {"channel": 2}}}}

reader 和 writer 分别对 DataX 支持的数据库读写插件,将 MySQL 表数据迁移到 OceanBase 数据库操作时,需要从 MySQL 读取数据写入 OceanBase 数据库,因此使用的插件为 MySQL 数据库的 mysqlreader 插件和 OceanBase 数据库的 oceanbasev10writer 插件来搭配完成。

4. 执行迁移任务

将 json 配置文件放到 DataX 的目录 job 下,或者自定义路径。执行方法如下:

$bin/datax.py job/test.json

5. 执行结果

今日霍州(www.jrhz.info)©️

特别声明:[使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

呆呆双喜临门!新家太漂亮22岁妹妹首露面,用猪食煮鸡蛋引争议!(呆呆指的什么生肖)

其实,这座新房并非一开始就如此,而是在2019年拆掉部分老房后,呆呆和家人一砖一瓦重新建起的,整个过程充满了辛苦和不易。在直播结束后,呆呆还做了自我总结,她提到开播前自己有些紧张,甚至手都在发抖,但她也表示,…

呆呆双喜临门!新家太漂亮22岁妹妹首露面,用猪食煮鸡蛋引争议!(呆呆指的什么生肖)

坚持丁克不生娃?52岁炫耀老来子的李大双 没给前妻李琳留颜面(丁克不育都该抓)

52岁的他在『互联网』上满心欢喜地分享自己年老得子的消息时,不少网友开始为李琳感到心疼。她曾以为自己此生不会再踏入婚姻的殿堂,但李大双的出现彻底改变了她的看法。 消息一出,很多人以为,李大双与李琳…

坚持丁克不生娃?52岁炫耀老来子的李大双 没给前妻李琳留颜面(丁克不育都该抓)

庾澄庆夫妇现身『张学友』演唱会!庾澄庆精神头十足,妻子比『伊能静』有气质(庾澄庆晒照透露伤势已无大碍)

2024年11月,他们为了支持好友的电影,难得地晒出了合影,哈林自然地把手搭在妻子的肩上;2025年8月,刚过64岁生日的哈林去接女儿放学时,踮起脚尖张望的可爱模样被拍了下来,小儿子则紧跟在他身边,穿着朴素。…

庾澄庆夫妇现身『张学友』演唱会!庾澄庆精神头十足,妻子比『伊能静』有气质(庾澄庆晒照透露伤势已无大碍)

向太炮轰网红8万8卖课事件!女儿当自强,以色事人永远上不了台面(向太被网友怒怼)

说到底,这根本就是一种魅力幻觉——就像当初向太自己推出的399元闺蜜课,结果遭到批评内容还不如『抖音』上的免费视频,本质上都抓住了大家想走捷径的心理——以为花点钱就能找到通向成功的近道,却忘了,天底下哪有那么便宜…

向太炮轰网红8万8卖课事件!女儿当自强,以色事人永远上不了台面(向太被网友怒怼)

『王祖贤』佛系营业引热议 祖贤路背后藏暖心善举(『王祖贤』带发出家)

为了感谢她的慷慨与无私,村民们将这条路命名为祖贤路,并立碑记载了这段佳话。『王祖贤』从不愿意做那个高高在上的女神,她更像是那个深深扎根在故土的普通人,而这份朴素的乡情,也让我们这些屏幕前的观众感受到了一份最真切的…

『王祖贤』佛系营业引热议 祖贤路背后藏暖心善举(『王祖贤』带发出家)