數據庫同步的正確打開方式


下載網站:www.SyncNavigator.CN 
 客服QQ1793040
----------------------------------------------------------


關於HKROnline SyncNavigator 注冊機價格的問題

 

 

HKROnline SyncNavigator 8.4.1 非破解版 注冊機 授權激活教程
 

 

 

 

最近一直在研究數據庫同步的問題,在網上查了很多資料,也請教了很多人,找到了一種通過快照復制的方法。研究了一番后發現之前就是用的這個方法,效果不是很好,果斷放棄。經過了一番尋覓和他人指點,最后從一位熱心網友那里得知一款很好用的軟件—— SyncNavigator。

 

 

好東西就要拿出來跟大家分享,所以今天向大家介紹一下這款軟件,及其一些使用方法。下面先看看它有什么強大的功能吧!

 

SyncNavigator的基本功能:

 

自動同步數據/定時同步數據
無論是實時同步/24小時不間斷同步,還是根據計划任務(每小時/每日/每周/等)定時自動同步都能完全勝任。

完整支持 Microsoft SQL Server
完整支持 Microsoft SQL Server 2000 2005 2008 數據庫類型。並能在不同數據庫版本之間相互同步數據。

支持 MySQL 4.1 以上版本
支持 MySQL 4.1 5.0 5.1 5.4 5.5。並能在不同數據庫版本之間相互同步數據。

無人值守和故障自動恢復
當數據庫故障或網絡故障以后,無需人工干預(或操作)自動恢復同步並確保數據完全准確,可靠。

同構數據庫同步/異構數據庫同步
SQL Server to SQL Server, MySQL to MySQL, SQL Server to MySQL 等都能輕松實現。

斷點續傳和增量同步
當同步完成(或中斷)后,再次同步時能繼續上一次的位置增量同步,避免每次都需要從頭開始的問題。

相信很多的用戶在遷移上雲上最頭疼的是數據庫備份和還原了吧。對於有些年頭企業的數據可能很大,用數據庫自帶的dump工具備份導出又導入,在傳輸上耗時又費力。Bespin Global資深交付工程師張小婭將為您介紹一種離線數據同步工具DATAX,實現包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等各種同構/異構數據源之間高效的數據同步功能。

 

教程System Requirements

  • Linux
  • JDK(1.8以上,推薦1.8)
  • Python(推薦Python2.6.X)
  • Apache      Maven 3.x (Compile DataX)

工具部署

  • 直接下載datax工具包

http://datax-opensource.oss-cn-hangzhou.aliyuncs.com/datax.tar.gz

下載后解壓至本地某個目錄,進入bin目錄,即可運行同步作業

$ cd  {YOUR_DATAX_HOME}/bin

$ python datax.py {YOUR_JOB.json}

  • 配置示例

可以通過命令查看配置模板: python datax.py -r {YOUR_READER} -w {YOUR_WRITER}

  • 重要參數配置說明
splitPk MysqlReader進行數據抽取時,如果指定splitPk,表示用戶希望使用splitPk代表的字段進行數據分片,DataX因此會啟動並發任務進行數據同步,這樣可以大大提供數據同步的效能。
Where 篩選條件,MysqlReader根據指定的column、table、where條件拼接SQL,並根據這個SQL進行數據抽取。
Querysql 在有些業務場景下,where這一配置項不足以描述所篩選的條件,用戶可以通過該配置型來自定義篩選SQL
Batchsize 一次性批量提交的記錄數大小,該值可以極大減少DataX與Mysql的網絡交互次數,並提升整體吞吐量。但是該值設置過大可能會造成DataX運行進程OOM情況。 1024
Channel 傳輸啟動的通道數,通道數和batchsize對性能影響較大

功能最佳實戰

這里以同構數據庫MySQL遷移為例向大家介紹遷移中JSON文件的具體配置。

*由於本文章內容過多遷移成功后的輸出日志本文章中不體現

1

IDC 數據庫上雲最佳實戰

  • 自建Mysql服務遷移至阿里雲RDS-Mysql

{

“job”: {

“setting”: {

“speed”: {

“channel”: 5

}

},

“content”: [{

“reader”: {

“name”: “mysqlreader”,

“parameter”: {

“username”: “root”,

“password”: “xxxxx”,

“column”: [

“*”

],

“connection”: [{

“table”: [

“member”

],

“jdbcUrl”: [

“jdbc:mysql://192.168.4.188:3306/bespin?useUnicode=true&characterEncoding=gbk”

]

}]

}

},

“writer”: {

“name”: “mysqlwriter”,

“parameter”: {

“username”: “member”,

“password”: “xxxxxxxx”,

“column”: [

“*”

],

“connection”: [{

“jdbcUrl”: “jdbc:mysql://rm-2zedc22cukg7v0hvifo.mysql.rds.aliyuncs.com:3306/mysqltest?useUnicode=true&charact

erEncoding=gbk”,

“table”: [

“member”

]

}]

}

}

}]

}

}

*遷移上騰訊雲,類似,只需要把writer中的jdbcUrl中的地址替換成功騰訊雲數據庫CDB的地址就可以,

如jdbc:mysql://bj-cdb-16u291gu.sql.tencentcdb.com:63061/member?useUnicode=true&characterEncoding=gbk*

2

雲雲之間數據庫遷移最佳實戰

  • 騰訊雲CDB-mysql數據庫遷移至阿里雲RDS-Mysql數據庫

{

“job”: {

“setting”: {

“speed”: {

“channel”: 5

}

},

“content”: [{

“reader”: {

“name”: “mysqlreader”,

“parameter”: {

“username”: “member”,

“password”: “xxxxx”,

“column”: [

“*”

],

“connection”: [{

“table”: [

“member”

],

“jdbcUrl”: [

“jdbc:mysql://bj-cdb-16u291gu.sql.tencentcdb.com:63061/member?useUnicode=true&characterEncoding=gbk”

]

}]

}

},

“writer”: {

“name”: “mysqlwriter”,

“parameter”: {

“username”: “member”,

“password”: “xxxxxxx”,

“column”: [

“*”

],

“connection”: [{

“jdbcUrl”: “jdbc:mysql://rm-2zedc22cukg7v0hvifo.mysql.rds.aliyuncs.com:3306/mysqltest?useUnicode=true&charact

erEncoding=gbk”,

“table”: [

“member”

]

}]

}

}

}]

}

}

*阿里雲RDS-mysql數據庫遷移至騰訊雲CDB-mysql數據庫類型,只需要將jdbcurl地址修改正確就可以*

3

同一張表分多進程同步

一張表數據量較大時,可以啟動多個datax進程進行傳輸,通過表里的列進行數據分批,比如日期或者自增列的鍵值,json寫法如下:

{

“job”: {

“setting”: {

“speed”: {

“channel”: 4

}

},

“content”: [{

“reader”: {

“name”: “mysqlreader”,

“parameter”: {

“username”: “root”,

“password”: “xxxx”,

“connection”: [{

“jdbcUrl”: [

“jdbc:mysql://10.10.10.1:3306/bespin?useUnicode=true&characterEncoding=gbk”

],

“querySql”: [

“SELECT id,name from table1 WHERE id>499999”

]

}]

}

},

“writer”: {

“name”: “mysqlwriter”,

“parameter”: {

“writeMode”: “insert”,

“username”: “root”,

“password”: “xxxxx”,

“column”: [

“*”

],

“connection”: [{

“jdbcUrl”: “jdbc:mysql://10.10.0.2:3306/bespin?useUnicode=true&characterEncoding=gbk”,

“table”: [

“table1”

]

}]

}

}

}]

}

}

結束語DataX的性能和穩定性均經過眾多項目的驗證,可以作為一款值得依賴的雲端/線下數據遷移工具;同時,DataX支持眾多的數據源,經過良好規划,可以實現異構數據之間的互通,降低數據遷移成本、提高遷移便捷性;另外,DataX還可作為一款ETL工具,也為數據進出大數據平台提供傳輸通道。當然,工具是為人所用,豐富的經驗積累才能充分發揮出工具的強大功能,歡迎大家和 Bespin 交付團隊共同探討雲端應用為企業帶來的價值實現。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM