MySQL 讀寫分離方案-Amoeba環境部署記錄


 

Mysql的讀寫分離可以使用MySQL Proxy,也可以使用Amoeba。Amoeba(變形蟲)項目是一個類似MySQL Proxy的分布式數據庫中間代理層軟件,是由陳思儒開發的一個開源的java項目。其主要功能包括讀寫分離,垂直分庫,水平分庫等,經過測試,發現其功能和穩定性都非常的不錯,如果需要構架分布式數據庫環境,采用Amoeba是一個不錯的方案。目前Amoeba一共包括For aladdin,For MySQL和For Oracle三個版本,以下介紹主要關注For MySQL版本的一個讀寫分離實現。實際上垂直切分和水平切分的架構也相差不大,改動幾個配置就可以輕松實現。下圖是一個采用Amoeba的讀寫分離技術結合MySQL的Master-Slave Replication的一個分布式系統的架構:

Amoeba處於在應用和數據庫之間,扮演一個中介的角色,將應用傳遞過來的SQL語句經過分析后,將寫的語句交給Master庫執行,將讀的語句路由到Slave庫執行(當然也可以到Master讀,這個完全看配置)。Amoeba實現了簡單的負載均衡(采用輪詢算法,在配置文件里設置)和Failover。如果配置了多個讀的庫,則任何一個讀的庫出現宕機,不會導致整個系統故障,Amoeba能自動將讀請求路由到其他可用的庫上,當然,寫還是單點的依賴於Master數據庫的,這個需要通過數據庫的切換,或者水平分割等技術來提升Master庫的可用性。

Amoeba可以在不同機器上啟動多個,並且做同樣的配置來進行水平擴展,以分擔壓力和提升可用性,可以將Amoeba和MySQL裝在同一台機器,也可以裝在不同的機器上,Amoeba本身不做數據緩存,所以對於內存消耗很少,主要是CPU占用對於應用來說,圖中的三個Amoeba就是三台一模一樣的MySQL數據庫,連接其中任何一台都是可以的,所以需要在應用端有一個Load balance和Failover的機制,需要連接數據庫時從三台中隨機挑選一台即可,如果其他任何一台出現故障,則可以自動Failover到剩余的可用機器上。MySQL的JDBC驅動從connector-j 3.17版本起已經提供了這樣的負載均衡和故障切換的功能,那么剩下的事情對於應用來說就很簡單了,不需要做太多的改動就能搭建一套高可用的MySQL分布式數據庫環境,何樂而不為?

Amoeba專注分布式數據庫proxy開發。Amoeba身處在Client、DB Server(s)之間,對客戶端透明,具有負載均衡、高可用性、sql過濾、讀寫分離、可路由相關的query到目標數據庫、可並發請求多台數據庫合並結果。
Amoeba主要解決:
1)降低 數據切分帶來的復雜多數據庫結構
2)提供切分規則並降低 數據切分規則 給應用帶來的影響
3)降低db 與客戶端的連接數
4)讀寫分離

為什么要用Amoeba
目前要實現mysql的主從讀寫分離,主要有以下幾種方案:
1)通過程序實現,網上很多現成的代碼,比較復雜,如果添加從服務器要更改多台服務器的代碼。
2)通過mysql-proxy來實現,由於mysql-proxy的主從讀寫分離是通過lua腳本來實現,目前lua的腳本的開發跟不上節奏,而寫沒有完美的現成的腳本,因此導致用於生產環境的話風險比較大,據網上很多人說mysql-proxy的性能不高。
3)自己開發接口實現,這種方案門檻高,開發成本高,不是一般的小公司能承擔得起。
4)利用阿里巴巴的開源項目Amoeba來實現,具有負載均衡、高可用性、sql過濾、讀寫分離、可路由相關的query到目標數據庫,並且安裝配置非常簡單。經測試,性能相比mysql-proxy較高。

下面就基於Amoeba的讀寫分離環節部署做一記錄:

1)環境准備

182.48.115.236     master-node
182.48.115.238     slave-node
182.48.115.237     amoeba-node

182.48.115.236和182.48.115.238做成mysql主從復制。關閉三台機器的iptables防火牆和selinux
mysql安裝參考:http://www.cnblogs.com/kevingrace/p/6109679.html
mysql主從部署參考:http://www.cnblogs.com/kevingrace/p/6256603.html

2)amoeba安裝

Amoeba框架是居於JDK1.5開發的,采用了JDK1.5的特性,所以還需要安裝java環境,建議使用javaSE1.5以上的JDK版本.

1)安裝java環境
安裝參考:http://www.cnblogs.com/kevingrace/p/5870814.html
[root@amoeba-node ~]# yum -y install java-1.7.0-openjdk*

設置java的環境變量
[root@amoeba-node ~]# vim /etc/profile
.......
export JAVA_HOME=/usr/lib/jvm/java-1.7.0-openjdk.x86_64
export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin

使之生效
[root@amoeba-node ~]# source /etc/profile

[root@amoeba-node ~]# java -version
java version "1.7.0_141"
OpenJDK Runtime Environment (rhel-2.6.10.1.el6_9-x86_64 u141-b02)
OpenJDK 64-Bit Server VM (build 24.141-b02, mixed mode)

2)安裝Amoeba
下載地址:https://sourceforge.net/projects/amoeba/
百度雲盤下載:https://pan.baidu.com/s/1c1FRsbe    提取密碼:xav2

Amoeba安裝非常簡單,直接解壓即可使用,這里將Amoeba解壓到/usr/local/amoeba目錄下,這樣就安裝完成了
[root@amoeba-node ~]# unzip amoeba-mysql-3.0.5-RC-distribution.zip 
[root@amoeba-node ~]# mv amoeba-mysql-3.0.5-RC /usr/local/amoeba
[root@amoeba-node ~]# cd /usr/local/amoeba
[root@amoeba-node amoeba]# ll
總用量 20
drwxrwxrwx. 2 root root 4096 7月   5 2013 benchmark
drwxrwxrwx. 2 root root 4096 7月   5 2013 bin
drwxrwxrwx. 2 root root 4096 7月   5 2013 conf
-rwxrwxrwx. 1 root root  728 7月   5 2013 jvm.properties
drwxrwxrwx. 2 root root 4096 7月   5 2013 lib

3)配置Amoeba
Amoeba的配置文件位於/usr/local/amoeba/conf目錄下。配置文件比較多,但是僅僅使用讀寫分離功能,只需配置兩個文件即可,分別是dbServers.xml和amoeba.xml,
如果需要配置ip訪問控制,還需要修改access_list.conf文件,下面首先介紹dbServers.xml的配置:
[root@amoeba-node amoeba]# cat conf/dbServers.xml 
<?xml version="1.0" encoding="gbk"?>

<!DOCTYPE amoeba:dbServers SYSTEM "dbserver.dtd">
<amoeba:dbServers xmlns:amoeba="http://amoeba.meidusa.com/">

    <!-- 
      Each dbServer needs to be configured into a Pool,
      If you need to configure multiple dbServer with load balancing that can be simplified by the following configuration:
       add attribute with name virtual = "true" in dbServer, but the configuration does not allow the element with name factoryConfig
       such as 'multiPool' dbServer   
    -->
    
  <dbServer name="abstractServer" abstractive="true">
    <factoryConfig class="com.meidusa.amoeba.mysql.net.MysqlServerConnectionFactory">
      <property name="connectionManager">${defaultManager}</property>
      <property name="sendBufferSize">64</property>
      <property name="receiveBufferSize">128</property>
        
      <!-- mysql port -->
      <property name="port">3306</property>            //設置Amoeba要連接的mysql數據庫的端口,默認是3306
      
      <!-- mysql schema -->
      <property name="schema">huanqiutest</property>         //設置缺省的數據庫,當連接amoeba時,操作表必須顯式的指定數據庫名,即采用dbname.tablename的方式,不支持 use dbname指定缺省庫,因為操作會調度到各個后端dbserver
      
      <!-- mysql user -->
      <property name="user">wang</property>        //設置amoeba連接后端數據庫服務器的賬號,因此需要在所有后端數據庫上創建該用戶,並授權amoeba服務器可連接
      
      <property name="password">wang123456</property>     //設置amoeba連接后端數據庫服務器的密碼
    </factoryConfig>

    <poolConfig class="com.meidusa.toolkit.common.poolable.PoolableObjectPool">
      <property name="maxActive">500</property>      //最大連接數,默認500
      <property name="maxIdle">500</property>        //最大空閑連接數
      <property name="minIdle">1</property>          //最新空閑連接數
      <property name="minEvictableIdleTimeMillis">600000</property>
      <property name="timeBetweenEvictionRunsMillis">600000</property>
      <property name="testOnBorrow">true</property>
      <property name="testOnReturn">true</property>
      <property name="testWhileIdle">true</property>
    </poolConfig>
  </dbServer>

  <dbServer name="masterdb"  parent="abstractServer">     //設置一個后端可寫的dbServer,這里定義為masterdb,這個名字可以任意命名,后面在amoeba.xml文件里會用到
    <factoryConfig>
      <!-- mysql ip -->
      <property name="ipAddress">182.48.115.236</property>    //設置后端可寫dbserver的ip
    </factoryConfig>
  </dbServer>
  
  <dbServer name="slavedb"  parent="abstractServer">        //設置后端可讀dbserver(如果是多個slave從節點,這里就配置多個<dbServer ... </dbServer>,然后加入到后面第一的可讀的組內)
    <factoryConfig>
      <!-- mysql ip -->
      <property name="ipAddress">182.48.115.238</property>     //設置后端可讀dbserver的ip
    </factoryConfig>
  </dbServer>
  
  <dbServer name="myslave" virtual="true">              //設置定義一個虛擬的dbserver,實際上相當於一個dbserver組,這里將可讀的數據庫ip統一放到一個組中,將這個組的名字命名為myslave
    <poolConfig class="com.meidusa.amoeba.server.MultipleServerPool">
      <!-- Load balancing strategy: 1=ROUNDROBIN , 2=WEIGHTBASED , 3=HA-->
      <property name="loadbalance">1</property>          //選擇調度算法,1表示復制均衡,2表示權重,3表示HA, 這里選擇1
      
      <!-- Separated by commas,such as: server1,server2,server1 -->
      <property name="poolNames">slavedb</property>                  //myslave組成員
    </poolConfig>
  </dbServer>
    
</amoeba:dbServers>


另一個配置文件amoeba.xml
[root@amoeba-node amoeba]# cat conf/amoeba.xml 
<?xml version="1.0" encoding="gbk"?>

<!DOCTYPE amoeba:configuration SYSTEM "amoeba.dtd">
<amoeba:configuration xmlns:amoeba="http://amoeba.meidusa.com/">

  <proxy>
  
    <!-- service class must implements com.meidusa.amoeba.service.Service -->
    <service name="Amoeba for Mysql" class="com.meidusa.amoeba.mysql.server.MySQLService">
      <!-- port -->
      <property name="port">8066</property>             //設置amoeba監聽的端口,默認是8066
      
      <!-- bind ipAddress -->                        //下面配置監聽的接口,如果不設置,默認監聽所以的IP
      <!-- 
      <property name="ipAddress">127.0.0.1</property>    
       -->
      
      <property name="connectionFactory">
        <bean class="com.meidusa.amoeba.mysql.net.MysqlClientConnectionFactory">
          <property name="sendBufferSize">128</property>
          <property name="receiveBufferSize">64</property>
        </bean>
      </property>
      
      <property name="authenticateProvider">
        <bean class="com.meidusa.amoeba.mysql.server.MysqlClientAuthenticator">
          
          <property name="user">root</property>     //提供客戶端連接amoeba時需要使用這里設定的賬號 (這里的賬號密碼和amoeba連接后端數據庫服務器的密碼無關)
          
          <property name="password">123456</property>
          
          <property name="filter">
            <bean class="com.meidusa.toolkit.net.authenticate.server.IPAccessController">
              <property name="ipFile">${amoeba.home}/conf/access_list.conf</property>
            </bean>
          </property>
        </bean>
      </property>
      
    </service>
    
    <runtime class="com.meidusa.amoeba.mysql.context.MysqlRuntimeContext">
      
      <!-- proxy server client process thread size -->
      <property name="executeThreadSize">128</property>
      
      <!-- per connection cache prepared statement size  -->
      <property name="statementCacheSize">500</property>
      
      <!-- default charset -->
      <property name="serverCharset">utf8</property>
      
      <!-- query timeout( default: 60 second , TimeUnit:second) -->
      <property name="queryTimeout">60</property>
    </runtime>
    
  </proxy>
  
  <!-- 
    Each ConnectionManager will start as thread
    manager responsible for the Connection IO read , Death Detection
  -->
  <connectionManagerList>
    <connectionManager name="defaultManager" class="com.meidusa.toolkit.net.MultiConnectionManagerWrapper">
      <property name="subManagerClassName">com.meidusa.toolkit.net.AuthingableConnectionManager</property>
    </connectionManager>
  </connectionManagerList>
  
    <!-- default using file loader -->
  <dbServerLoader class="com.meidusa.amoeba.context.DBServerConfigFileLoader">
    <property name="configFile">${amoeba.home}/conf/dbServers.xml</property>
  </dbServerLoader>
  
  <queryRouter class="com.meidusa.amoeba.mysql.parser.MysqlQueryRouter">
    <property name="ruleLoader">
      <bean class="com.meidusa.amoeba.route.TableRuleFileLoader">
        <property name="ruleFile">${amoeba.home}/conf/rule.xml</property>
        <property name="functionFile">${amoeba.home}/conf/ruleFunctionMap.xml</property>
      </bean>
    </property>
    <property name="sqlFunctionFile">${amoeba.home}/conf/functionMap.xml</property>
    <property name="LRUMapSize">1500</property>
    <property name="defaultPool">masterdb</property>         //設置amoeba默認的池,這里設置為masterdb(這個是在dbServers.xml文件里定義的)
    
    <property name="writePool">masterdb</property>        //這兩個選項默認是注銷掉的,一定要取消注釋!否則讀寫分離無效,這里用來指定前面定義好的寫池
    <property name="readPool">myslave</property>          //取消注釋,這個是前面在dbServers.xml文件里定義的讀池
  
    <property name="needParse">true</property>
  </queryRouter>
</amoeba:configuration>

4)在masterdb上(即master節點機182.48.115.236上)創建數據庫huanqiutest
mysql> create database huanqiutest;
Query OK, 1 row affected (0.00 sec)

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| huanqiutest        |
| mysql              |
| performance_schema |
| test               |
+--------------------+
5 rows in set (0.00 sec)

然后在slavedb上(即slave節點182.48.115.238上)查看是否復制成功
mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| huanqiutest        |
| mysql              |
| performance_schema |
| test               |
+--------------------+
5 rows in set (0.00 sec)

分別在masterdb和slavedb上為amoedb授權
mysql> GRANT ALL ON huanqiutest.* TO 'wang'@'182.48.115.237' IDENTIFIED BY 'wang123456';
Query OK, 0 rows affected (0.00 sec)

mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)

啟動amoeba
[root@amoeba-node ~]# /usr/local/amoeba/bin/launcher
....................................................................................
報錯1:
The stack size specified is too small, Specify at least 228k
Error: Could not create the Java Virtual Machine.
Error: A fatal exception has occurred. Program will exit.
解決辦法:
從錯誤文字上看,應該是由於stack size太小,導致JVM啟動失敗,要如何修改呢?
其實Amoeba已經考慮到這個問題,並將JVM參數配置寫在屬性文件里,可以通過該屬性文件修改JVM參數。
修改jvm.properties文件JVM_OPTIONS參數。
[root@amoeba-node ~]# vim /usr/local/amoeba/jvm.properties 
將內容
JVM_OPTIONS="-server -Xms256m -Xmx1024m -Xss196k -XX:PermSize=16m -XX:MaxPermSize=96m"
修改為
JVM_OPTIONS="-server -Xms1024m -Xmx1024m -Xss256k -XX:PermSize=16m -XX:MaxPermSize=96m"

再次啟動Amoeba就ok了
[root@amoeba-node ~]# nohup /usr/local/amoeba/bin/launcher &      //將amoeba放在后台執行。該命令執行后,按ctrl+c
[root@amoeba-node ~]# ps -ef|grep amoeba
root     19079     1  1 15:01 pts/0    00:00:02 /usr/lib/jvm/java-1.7.0-openjdk.x86_64/bin/java -server -Xms1024m -Xmx1024m -Xss256k -XX:PermSize=16m -XX:MaxPermSize=96m -Dproject.home=/usr/local/amoeba -Damoeba.home=/usr/local/amoeba -Dproject.name=Amoeba-MySQL -Dproject.output=/usr/local/amoeba/logs -Dignore.signals=1,2 -Dclassworlds.conf=/usr/local/amoeba/bin/launcher.classpath -classpath /usr/local/amoeba/lib/plexus-classworlds-2.4.2-HEXNOVA.jar org.codehaus.classworlds.Launcher
root     19103 19009  0 15:02 pts/0    00:00:00 /bin/bash /usr/local/amoeba/bin/launcher
root     19109 19103  0 15:02 pts/0    00:00:00 tail -f /usr/local/amoeba/logs/console.log
root     19172 19009  0 15:04 pts/0    00:00:00 grep amoeba
[root@amoeba-node ~]# lsof -i:8066
COMMAND   PID USER   FD   TYPE  DEVICE SIZE/OFF NODE NAME
java    19079 root   64u  IPv6 2705157      0t0  TCP *:8066 (LISTEN)
..................................................................................

3)amoeba讀寫分離測試

注意:上面在amoeba.xml中指定的連接amoba的帳號和密碼(即root/123456)要提前在master和slave兩台節點機上授權
mysql> grant all on *.* to root@'182.58.115.%' identified by "123456";
Query OK, 0 rows affected (0.00 sec)

mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)

然后在mysql客戶端通過amoeba配置文件amoeba.xml中指定的用戶名、密碼、和端口以及amoeba服務器ip地址遠程登陸mysql數據庫
[root@localhost ~]# mysql -h182.48.115.237 -uroot -p123456 -P8066
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 2052322366
Server version: 5.1.45-mysql-amoeba-proxy-3.0.4-BETA Source distribution

Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql> show databases;
+--------------------+
| Database           |
+--------------------+
| information_schema |
| huanqiutest        |
| test               |
+--------------------+
3 rows in set (0.00 sec)

在huanqiutest庫創建haha表,並插入數據
mysql> use huanqiutest;
Database changed

mysql> create table if not exists haha (id int(10) PRIMARY KEY AUTO_INCREMENT,name varchar(50) NOT NULL);
Query OK, 0 rows affected (0.20 sec)

mysql> insert into haha values(1,"wangshibo"),(2,"guohuihui");
Query OK, 2 rows affected (0.01 sec)
Records: 2  Duplicates: 0  Warnings: 0

mysql> select * from haha;
+----+-----------+
| id | name      |
+----+-----------+
|  1 | wangshibo |
|  2 | guohuihui |
+----+-----------+
2 rows in set (0.01 sec)

分別登陸masterdb(即master-node節點)和slavedb(slave-node節點)查看數據
master-node數據庫
mysql> select * from huanqiutest.haha;
+----+-----------+
| id | name      |
+----+-----------+
|  1 | wangshibo |
|  2 | guohuihui |
+----+-----------+
2 rows in set (0.00 sec)

slave-node數據庫
mysql> select * from huanqiutest.haha;
+----+-----------+
| id | name      |
+----+-----------+
|  1 | wangshibo |
|  2 | guohuihui |
+----+-----------+
2 rows in set (0.00 sec)

-------------------------------------------------------------------------
停掉masterdb,然后在客戶端分別執行插入和查詢功能
[root@master-node ~]# /etc/init.d/mysql stop
Shutting down MySQL............ SUCCESS! 

客戶端連接amoeba后插入新數據
mysql> insert into huanqiutest.haha values(3,"zhangmin");
ERROR 1044 (42000): Amoeba could not connect to MySQL server[182.48.115.236:3306],拒絕連接

mysql> select * from huanqiutest.haha;
+----+-----------+
| id | name      |
+----+-----------+
|  1 | wangshibo |
|  2 | guohuihui |
+----+-----------+
2 rows in set (0.01 sec)

可以看到,關掉masterdb后,寫入報錯,讀正常
------------------------------------------------------------------------
開啟masterdb上的msyql 關閉slavedb上的mysql

masterdb
[root@master-node ~]# /etc/init.d/mysql start
Starting MySQL.. SUCCESS! 

slavedb
[root@slave-node ~]# /etc/init.d/mysql stop
Shutting down MySQL....                                    [確定]

客戶端再次嘗試
mysql> insert into huanqiutest.haha values(3,"zhangmin");
Query OK, 1 row affected (0.01 sec)

mysql> select * from huanqiutest.haha;
ERROR 1044 (42000): poolName=myslave, no valid pools

可以看到插入成功,讀取失敗
------------------------------------------------------------------------
開啟slavedb上的mysql,查看數據是否自動同步
[root@slave-node ~]# /etc/init.d/mysql start
Starting MySQL..                                           [確定]

客戶端:
mysql> select * from huanqiutest.haha;
+----+-----------+
| id | name      |
+----+-----------+
|  1 | wangshibo |
|  2 | guohuihui |
|  3 | zhangmin  |
+----+-----------+
3 rows in set (0.00 sec)

由此可見,amoeba的讀寫分離的效果已經很明顯了!上面是amoeba針對一個庫的讀寫分離配置,如果是多個庫的讀寫分離,可以部署多個amoeba實例,amoeba端口不一樣,然后啟動多個實例即可。

....................................................................................................................
Amoeba的有關配置文件說明

主配置文件:amoeba.xml                  用來配置Amoeba服務的基本參數,如Amoeba主機地址、端口、認證方式、用於連接的用戶名、密碼、線程數、超時時間、其他配置文件的位置等。
數據庫服務器配置文件:dbServers.xml       用來存儲和配置Amoeba所代理的數據庫服務器的信息,如:主機IP、端口、用戶名、密碼等。
切分規則配置文件rule.xml                 用來配置切分規則。
數據庫函數配置文件:functionMap.xml       用來配置數據庫函數的處理方法,Amoeba將使用該配置文件中的方法解析數據庫函數。
切分規則函數配置文件ruleFunctionMap.xml   用來配置切分規則中使用的用戶自定義函數的處理方法。
訪問規則配置文件:access_list.conf        用來授權或禁止某些服務器IP訪問Amoeba。
日志規格配置文件log4j.xml                用來配置Amoeba輸出日志的級別和方式。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM