LOGO OA教程 ERP教程 模切知识交流 PMS教程 CRM教程 开发文档 其他文档  
 
网站管理员

DBSyncer:一款开源、免费、功能强大的数据同步工具,支持多种数据源!

admin
2025年7月2日 20:38 本文热度 109

简介

    DBSyncer(简称dbs)是一款开源的数据同步中间件,提供MySQL、Oracle、SQL Server、PostgreSQL、Elasticsearch(ES)、Kafka、File、SQL等同步场景。支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

特点

  • 组合驱动,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系
  • 实时监控,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志
  • 开发插件,自定义转化同步逻辑

开源地址

https://gitee.com/ghi/dbsyncer

安装部署

从开源项目中下载zip包,解压安装包,Window执行bin/startup.bat,Linux执行bin/startup.sh
Start successfully!代表启动成功,注意如果是高版本的jdk可能会报错,切换为jdk8来启动!
访问:http://localhost:18686/ 
默认账号密码:admin

数据同步

这里以mysql > elasticsearch为例也是最常见的场景

mysql配置

注意:mysql的binlog配置一定要设置为Row,在mysql的配置文件中

binlog_format=ROW


准备

1.创建一个mysql的表这里以一个t_user表为例
CREATE TABLE `t_user` (  `id` int(11NOT NULL AUTO_INCREMENT COMMENT '用户ID,主键自增',  `name` varchar(50NOT NULL COMMENT '用户姓名',  `height` int(11DEFAULT NULL COMMENT '用户身高(单位:厘米)',  `age` tinyint(3) unsigned DEFAULT NULL COMMENT '用户年龄',  `email` varchar(100DEFAULT NULL COMMENT '用户邮箱',  `address` varchar(255DEFAULT NULL COMMENT '用户详细地址',  `phone` varchar(20DEFAULT NULL COMMENT '用户手机号码',  `hobby` varchar(255DEFAULT NULL COMMENT '用户兴趣爱好',  `create_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '记录创建时间',  `update_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '记录更新时间',  PRIMARY KEY (`id`),  UNIQUE KEY `idx_email` (`email`),  KEY `idx_phone` (`phone`)) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='用户信息表';
-- 初始化一条数据INSERT INTO `t_user` (`id`, `name`, `height`, `age`, `email`, `address`, `phone`, `hobby`, `create_time`, `update_time`) VALUES (1'全量同步-1'11'dbs@qq.com''北京市''13333333333''没有爱好''2025-06-30 15:14:50''2025-06-30 15:14:50');

2.创建一个ES中创建一个user_index的索引

PUT /user_index{  "mappings": {    "properties": {      "id": {"type""integer""index"false},      "name": {        "type""text",        "fields": {"keyword": {"type""keyword"}}      },      "height": {"type""float"},      "age": {"type""short"},      "email": {"type""keyword"},      "address": {"type""text"},      "phone": {"type""keyword"},      "hobby": {        "type""text",        "fields": {"keyword": {"type""keyword"}}      },      "create_time": {"type""long"},      "update_time": {"type""long"}    }  },  "settings": {    "number_of_shards": 1,    "number_of_replicas": 0  }}

配置DBSyncer同步任务

1.添加mysql和es的链接
mysql
es
添加驱动
添加驱动时选择数据源为mysql目标为es

配置映射关系
映射 关系注意主键id 也可以通过条件同步指定条件数据
高级设置注意时间的设置.需要做一下转换

配置好以后点击保存即可保存

启动任务验证

因为选择的是全量同步,所以说启动以后,同步完成任务就停止了,停止以后,我们把任务修改为增量同步,来同步增量的任务即可
设置为增量以后 启动任务,后续的数据就会自动同步了

性能测试

阅读原文:原文链接


该文章在 2025/7/3 14:27:56 编辑过
关键字查询
相关文章
正在查询...
点晴ERP是一款针对中小制造业的专业生产管理软件系统,系统成熟度和易用性得到了国内大量中小企业的青睐。
点晴PMS码头管理系统主要针对港口码头集装箱与散货日常运作、调度、堆场、车队、财务费用、相关报表等业务管理,结合码头的业务特点,围绕调度、堆场作业而开发的。集技术的先进性、管理的有效性于一体,是物流码头及其他港口类企业的高效ERP管理信息系统。
点晴WMS仓储管理系统提供了货物产品管理,销售管理,采购管理,仓储管理,仓库管理,保质期管理,货位管理,库位管理,生产管理,WMS管理系统,标签打印,条形码,二维码管理,批号管理软件。
点晴免费OA是一款软件和通用服务都免费,不限功能、不限时间、不限用户的免费OA协同办公管理系统。
Copyright 2010-2025 ClickSun All Rights Reserved