1.Mycat概述
在此前的服務器對數據庫的存儲數量不多的時候,MySql數據庫基本能夠滿足對數據存儲的要求。
但隨着技術的不斷發展,MySql甚至Redis都無法滿足現今存儲數量的指數級增長的要求,在面對千萬級以上的數據存儲時,MySql的性能將大幅下降,此時我們需要一個能夠解決這些問題的辦法。
而MyCat(數據庫中間件)則是當下主流的解決海量數據存儲問題的方法,接下來我將簡略的介紹它的主要功能與原理。
2.Mycat的分庫分表
Mycat是一個數據庫中間件,也可以理解為是數據庫代理。
Mycat的分表操作,即在配置文件中預先配置好將數據分開存儲的幾張表,且設定分開存儲的相關規則,此時注意真實數據庫的表名與配置文件中的表名一致。
當我們進行數據存儲的操作時,Mycat將這些數據根據配置,把這些數據存儲到不同的表中,以減少單表存儲時的壓力,提高讀取與寫入的性能。
3.Mycat快速搭建
1.在搭建Mycat時,我們需要預先准備三個配置文件,它們的文件名分別是server.xml、rule.xml和schema.xml。
server.xml
<?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE mycat:server SYSTEM "server.dtd"> <mycat:server xmlns:mycat="http://io.mycat/"> <system> <property name="useSqlStat">0</property> <!-- 1為開啟實時統計、0為關閉 --> <property name="useGlobleTableCheck">0</property> <!-- 1為開啟全加班一致性檢測、0為關閉 --> <property name="sequnceHandlerType">2</property> <!-- <property name="useCompression">1</property>--> <!--1為開啟mysql壓縮協議--> <!-- <property name="fakeMySQLVersion">5.6.20</property>--> <!--設置模擬的MySQL版本號--> <!-- <property name="processorBufferChunk">40960</property> --> <!-- <property name="processors">1</property> <property name="processorExecutor">32</property> --> <!--默認為type 0: DirectByteBufferPool | type 1 ByteBufferArena--> <property name="processorBufferPoolType">0</property> <!--默認是65535 64K 用於sql解析時最大文本長度 --> <!--<property name="maxStringLiteralLength">65535</property>--> <!--<property name="sequnceHandlerType">0</property>--> <!--<property name="backSocketNoDelay">1</property>--> <!--<property name="frontSocketNoDelay">1</property>--> <!--<property name="processorExecutor">16</property>--> <!-- <property name="serverPort">8066</property> <property name="managerPort">9066</property> <property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property> <property name="frontWriteQueueSize">4096</property> <property name="processors">32</property> --> <!--分布式事務開關,0為不過濾分布式事務,1為過濾分布式事務(如果分布式事務內只涉及全局表,則不過濾),2為不過濾分布式事務,但是記錄分布式事務日志--> <property name="handleDistributedTransactions">0</property> <!-- off heap for merge/order/group/limit 1開啟 0關閉 --> <property name="useOffHeapForMerge">1</property> <!-- 單位為m --> <property name="memoryPageSize">1m</property> <!-- 單位為k --> <property name="spillsFileBufferSize">1k</property> <property name="useStreamOutput">0</property> <!-- 單位為m --> <property name="systemReserveMemorySize">384m</property> <!--是否采用zookeeper協調切換 --> <property name="useZKSwitch">true</property> </system> <!-- 全局SQL防火牆設置 --> <!-- <firewall> <whitehost> <host host="127.0.0.1" user="mycat"/> <host host="127.0.0.2" user="mycat"/> </whitehost> <blacklist check="false"> </blacklist> </firewall> --> <user name="root"> <property name="password">123456</property> <property name="schemas">dm_order</property> <!-- 表級 DML 權限設置 --> <!-- <privileges check="false"> <schema name="TESTDB" dml="0110" > <table name="tb01" dml="0000"></table> <table name="tb02" dml="1111"></table> </schema> </privileges> --> </user> </mycat:server>
rule.xml
<?xml version="1.0" encoding="UTF-8"?> <!DOCTYPE mycat:rule SYSTEM "rule.dtd"> <mycat:rule xmlns:mycat="http://io.mycat/"> <tableRule name="auto-sharding-rang-mod-order"> <rule> <columns>id</columns> <algorithm>rang-mod-dm</algorithm> </rule> </tableRule> <function name="rang-mod-dm" class="io.mycat.route.function.PartitionByMod"> <property name="count">3</property> </function> </mycat:rule>
schema.xml
<?xml version="1.0"?> <!DOCTYPE mycat:schema SYSTEM "schema.dtd"> <mycat:schema xmlns:mycat="http://io.mycat/"> <schema name="dm_order" checkSQLschema="true" sqlMaxLimit="100"> <table name="dm_order" primaryKey="id" autoIncrement="true" dataNode="dn1,dn2,dn3" rule="auto-sharding-rang-mod-order"/> </schema>
<dataNode name="dn1" dataHost="a" database="dm_order1"/>
<dataNode name="dn2" dataHost="a" database="dm_order2"/> <dataNode name="dn3" dataHost="a" database="dm_order3"/> <dataHost name="a" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100"> <heartbeat>select 1</heartbeat> <!--注意下方的“url”中的IP地址應改為對應你的ubantu系統的IP地址--> <writeHost host="hostM1" url="192.168.115.158:3306" user="root" password="123456"> </writeHost> </dataHost> </mycat:schema>
2.接下來將這些文件復制到linux的root目錄下,使用Xftp進行文件的傳輸
3.將宿主機中的三個xml文件復制到mycat容器中的/usr/local/mycat/conf目錄,使用Xshell進行相關的操作
root@ubuntu:~# docker cp server.xml springcloudv20_mycat_1:/usr/local/mycat/conf
root@ubuntu:~# docker cp rule.xml springcloudv20_mycat_1:/usr/local/mycat/conf root@ubuntu:~# docker cp schema.xml springcloudv20_mycat_1:/usr/local/mycat/conf
如下圖
最后,重啟Mycat容器。至此,Mycat的配置已基本完成,接下來進行相關的測試
4.Mycat相關測試
首先我們先連接Mycat的邏輯庫,使用配置文件schema.xml中的設定好的賬號密碼連接MySql數據庫,端口號為8066.
連接成功后數據庫內部的表如下圖所示:
接下來連接本地的數據庫,端口號為3306。
連接成功后數據庫內部的我們需要的表如下圖所示:
最后我們在邏輯庫中的表dm_order隨意添加復數條的數據,然后刷新本地庫的表,就可以看到,之前在邏輯庫中存儲的數據已經自動被分別保存在不同的表中。
5.springboot+mybatis實現分庫分表
使用老師發給我們的項目文件,在運行后,與網址中輸入相應的地址http://localhost:9090/addOrder.do並給予參數,然后刷新數據庫中的表,可以查看添加的成果。