数据库同步中间件

AE86 37631d76e7 update README.md. 9 maanden geleden
dbsyncer-biz f2f1fbcb97 update jvm 10 maanden geleden
dbsyncer-common 5414c0ed87 upgrade version 10 maanden geleden
dbsyncer-connector 5414c0ed87 upgrade version 10 maanden geleden
dbsyncer-manager 5414c0ed87 upgrade version 10 maanden geleden
dbsyncer-parser c93c98eade 修复取全局插件参数 9 maanden geleden
dbsyncer-plugin 5414c0ed87 upgrade version 10 maanden geleden
dbsyncer-sdk d8f7303826 修复oracle, char[] to number 9 maanden geleden
dbsyncer-storage 5414c0ed87 upgrade version 10 maanden geleden
dbsyncer-web 12c1f22848 update jvm 10 maanden geleden
.gitignore ddf5656cb0 add ignore 10 maanden geleden
LICENSE c8bef651e7 init 5 jaren geleden
README.md 37631d76e7 update README.md. 9 maanden geleden
build.cmd 1dd6ce323c 修改编译脚本 2 jaren geleden
build.sh 230967d282 upgrade version 2 jaren geleden
install.cmd 455e352a1e add spi 1 jaar geleden
install.sh 7718189c8a add shell 11 maanden geleden
pom.xml 5414c0ed87 upgrade version 10 maanden geleden
version.cmd 5414c0ed87 upgrade version 10 maanden geleden
version.sh 5414c0ed87 upgrade version 10 maanden geleden

README.md

介绍

logo

DBSyncer(英[dbsɪŋkɜː(r)],美[dbsɪŋkɜː(r) 简称dbs)是一款开源的数据同步中间件,提供MySQL、Oracle、SqlServer、PostgreSQL、Elasticsearch(ES)、Kafka、File、SQL等同步场景。支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

特点

  • 组合驱动,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系
  • 实时监控,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志
  • 开发插件,自定义转化同步逻辑

项目地址

star fork license

🌈应用场景

连接器 数据源 目标源 支持版本(包含以下)
MySQL 5.7.19以上
Oracle 11g-19c
SqlServer 2008以上
PostgreSQL 9.5.25以上
ES 6.0以上
Kafka 开发中 2.10-0.9.0.0以上
File *.txt, *.unl
SQL 支持以上关系型数据库
Sqlite
后期计划 Redis

📚使用手册Wiki

✨预览

驱动管理

连接器和驱动

监控

监控

📦安装配置

版本介绍

  • dbsyncer-2.x.x-bin.zip (开源版)
  • dbsyncer-enterprise-2.x.x-bin.zip(专业版)

方式一 下载安装包

  1. 安装JDK 1.8(省略详细)
  2. 下载安装包dbsyncer-x.x.x-bin.zip(也可手动编译)
  3. 解压安装包,Window执行bin/startup.bat,Linux执行bin/startup.sh
  4. 打开浏览器访问:http://127.0.0.1:18686
  5. 账号和密码:admin/admin

更多环境部署

方式二 🐳 docker

  • 阿里云镜像(推荐)

    docker pull registry.cn-hangzhou.aliyuncs.com/xhtb/dbsyncer:latest
    
    或
    
    docker pull registry.cn-hangzhou.aliyuncs.com/lifewang/dbsyncer:latest
    
  • docker镜像

    docker pull crazylife/dbsyncer-web:latest
    
  • dockerhub镜像

⚙️手动编译

先确保环境已安装JDK和Maven

$ git clone https://gitee.com/ghi/dbsyncer.git
$ cd dbsyncer
$ chmod u+x build.sh
$ ./build.sh

🏆性能测试

全量同步

系统 机器配置 数据量 耗时
Mac Apple M3 Pro 12核心 内存18GB 1亿条 31分50秒
Linux Intel(R) Xeon(R) CPU E5-2696 v3B 8核心 内存48GB 1亿条 37分52秒
Windows AMD Ryzen 7 5800x 8核心 12GB 1亿条 57分43秒

增量同步

系统 机器配置 分配内存 TPS 峰值
Mac Apple M3 Pro 12核心 内存18GB 4GB 8112/秒 11000/秒
Linux Intel(R) Xeon(R) CPU E5-2696 v3B 8核心 内存48GB 4GB 8000/秒 10000/秒
Windows AMD Ryzen 7 5800x 8核心 12GB 4GB 7553/秒 9000/秒

更多测试报告

🐞常见问题

🤝贡献支持

DBS团队目标:坚持开源,让每一个用户都能轻松完成数据同步!

  • QQ群讨论: 875519623
  • 欢迎大家提需求和建议【新建issuses】!(详细描述你的原始需求,我们会帮你提供一些方案,节约大家的成本) 1) 内推项目 如您觉得项目不错,可推荐到公司,建立长期稳定的商业合作,提供更专业的技术服务。(入群联系群主) 2) 参与开发 项目成员有不同专业的大佬,相信一定能找到您比较感兴趣的方向,欢迎加入团队!(入群联系群主) 3) 需要专业技术指导,欢迎加 会员粉丝服务群。 4) 开源不易,感谢粉丝朋友们的支持!【捐赠者名单】