mongodb Replica Sets +Sharding高可用集群搭建(含認證)

集群由三台服務器(假定ip地址為:serverA,serverB,serverC)組成,采用mongodb的復制集+分片(Replica Sets+Sharding) 實現集群的高可靠/高可用以及數據讀寫的負載均衡。 三台機器分成兩個復制集，兩個復制集組成一個集群的兩個分片(shard1和shard2)。具體如下：

　　1、ServerA的s1-1 / ServerB的s1-2 / ServerC的s1-3 組成一個3節點的復制集s1

　　2、ServerA的s2-1 / ServerB的s2-2 / ServerC的s2-3 組成一個3節點的復制集s2

　　3、復制集s1和s2 組成有兩個片的分片集群

　　4、為確保配置信息高可用，集群采用3個配置節點存儲集群配置信息： ServerA的c1 / ServerB的c2 / ServerC的c3

　　5、為對外服務提供高可用，集群采用3個路由節點對外提供服務：ServerA的mongos 1 / ServerB的mongos 2/ ServerC的mongos 3, 也可以結合keepalive對外提供一個vip.

 

mongodb集群邏輯結構：

 

mongodb服務進程規划：

 

每台機器運行4個服務進程(2+1+1),端口和目錄規划：

 

 詳細配置步驟如下：

 1、配置shard1用到復制集 s1：

　　在serverA上：mongod --replSet s1 --port 27020 --dbpath=/data/mongo/s1_1/db --logpath=/data/mongo/s1_1/log/mongo.log --logappend --fork

　　在serverB上：mongod --replSet s1 --port 27020 --dbpath=/data/mongo/s1_2/db --logpath=/data/mongo/s1_2/log/mongo.log --logappend --fork

　　在serverC上：mongod --replSet s1 --port 27020 --dbpath=/data/mongo/s1_3/db --logpath=/data/mongo/s1_3/log/mongo.log --logappend --fork

　　連接三個節點的任一個初始化復制集s1　

　　>use admin

　　>config = {_id:'s1',members:[{_id:0,host:'serverA:27020',priority:1},{_id:1,host:'serverB:27020'},{_id:2,host:'serverC:27020'}]}

　　>rs.initiate(config)

　　>rs.status()

　　另外對復制集s1的所有節點都執行如下命令確保所有節點都能分擔讀取的壓力

　　>db.getMongo().setSlaveOk();

 2、配置shard2用到復制集 s2：

　　在serverA上：mongod --replSet s2 --port 27021 --dbpath=/data/mongo/s2_1/db --logpath=/data/mongo/s2_1/log/mongo.log --logappend --fork

　　在serverB上：mongod --replSet s2 --port 27021 --dbpath=/data/mongo/s2_2/db --logpath=/data/mongo/s2_2/log/mongo.log --logappend --fork

　　在serverC上：mongod --replSet s2 --port 27021 --dbpath=/data/mongo/s2_3/db --logpath=/data/mongo/s2_3/log/mongo.log --logappend --fork　

　　連接三個節點的任一個初始化復制集s2　

　　>use admin

　　>config = {_id:'s2',members:[{_id:0,host:'serverA:27021'},{_id:1,host:'serverB:27021',priority:1},{_id:2,host:'serverC:27021'}]}

　　>rs.initiate(config)

　　>rs.status()

　　另外對復制集s2的所有節點都執行如下命令確保所有節點都能分擔讀取的壓力

　　>db.getMongo().setSlaveOk();

 3、配置三台Config Server：

　　在serverA上：mongod  -fork --configsvr --dbpath /data/mongo/config/db --port 27018 --logpath /data/mongo/config/log/mongo.log --fork

　　在serverB上：mongod  -fork --configsvr --dbpath /data/mongo/config/db --port 27018 --logpath /data/mongo/config/log/mongo.log --fork

　　在serverC上：mongod  -fork --configsvr --dbpath /data/mongo/config/db --port 27018 --logpath /data/mongo/config/log/mongo.log --fork

 4、配置三台Route Server：

　　在serverA上：mongos -fork --logpath /data/mongo/route/log/mongo.log --configdb ServerA:27018,ServerB:27018,ServerC:27018 --port 27017

　　在serverB上：mongos -fork --logpath /data/mongo/route/log/mongo.log --configdb ServerA:27018,ServerB:27018,ServerC:27018 --port 27017

　　在serverC上：mongos -fork --logpath /data/mongo/route/log/mongo.log --configdb ServerA:27018,ServerB:27018,ServerC:27018 --port 27017

 5、配置Shard Cluster：

　　連接任一mongos進程執行以下命令：

　　use admin

　　db.runCommand({addShard:"shard1/serverA:27020,serverB:27020,serverC:27020"})

　　db.runCommand({addShard:"shard2/serverA:27021,serverB:27021,serverC:27021"})

　　db.printShardingStatus()

6、激活數據庫及集合的分片功能：

　　連接任一mongos進程執行以下命令：

　　db.runCommand({enablesharding:"testdb"})

　　db.runCommand({shardcollection:"testdb.collection_test",key:{_id:1}})

7、登錄mongos添加用戶：

    use admin

    db.addUser("<user>","<password>")

　 db.addUser("<user>","<password>",true) //添加只讀用戶

8、關閉三台機器的全部mongod,mongos：

　　sudo killall mongod

　　sudo killall mongos

9、生成keyfile：(每個進程的key file都保持一致)

　　openssl rand -base64 753 >keyfile

　　將生成的keyfile 拷貝到mongod/mongos 進程對應的文件夾

　　並執行語句更改權限:sudo chmod 600 keyfile

　　使用--keyFile參數指定前面生成的keyfile文件，重啟三台機器全部mongod,mongos進程　

　　在serverA上：mongod --replSet s1 --port 27020 --dbpath=/data/mongo/s1_1/db --logpath=/data/mongo/s1_1/log/mongo.log --logappend --fork --keyFile  /data/mongo/s1_1/keyfile

　　在serverB上：mongod --replSet s1 --port 27020 --dbpath=/data/mongo/s1_2/db --logpath=/data/mongo/s1_2/log/mongo.log --logappend --fork --keyFile  /data/mongo/s1_2/keyfile

　　在serverC上：mongod --replSet s1 --port 27020 --dbpath=/data/mongo/s1_3/db --logpath=/data/mongo/s1_3/log/mongo.log --logappend --fork --keyFile  /data/mongo/s1_3/keyfile

　　

　　在serverA上：mongod --replSet s2 --port 27021 --dbpath=/data/mongo/s2_1/db --logpath=/data/mongo/s2_1/log/mongo.log --logappend --fork --keyFile  /data/mongo/s2_1/keyfile

　　在serverB上：mongod --replSet s2 --port 27021 --dbpath=/data/mongo/s2_2/db --logpath=/data/mongo/s2_2/log/mongo.log --logappend --fork --keyFile  /data/mongo/s2_2/keyfile

　　在serverC上：mongod --replSet s2 --port 27021 --dbpath=/data/mongo/s2_3/db --logpath=/data/mongo/s2_3/log/mongo.log --logappend --fork --keyFile  /data/mongo/s2_3/keyfile

　　

　　在serverA上：mongod  -fork --configsvr --dbpath /data/mongo/config/db --port 27018 --logpath /data/mongo/config/log/mongo.log --fork --keyFile  /data/mongo/config/keyfile

　　在serverB上：mongod  -fork --configsvr --dbpath /data/mongo/config/db --port 27018 --logpath /data/mongo/config/log/mongo.log --fork --keyFile  /data/mongo/config/keyfile

　　在serverC上：mongod  -fork --configsvr --dbpath /data/mongo/config/db --port 27018 --logpath /data/mongo/config/log/mongo.log --fork --keyFile  /data/mongo/config/keyfile

 

　　在serverA上：mongos -fork --logpath /data/mongo/route/log/mongo.log --configdb ServerA:27018,ServerB:27018,ServerC:27018 --port 27017 --keyFile  /data/mongo/route/keyfile

　　在serverB上：mongos -fork --logpath /data/mongo/route/log/mongo.log --configdb ServerA:27018,ServerB:27018,ServerC:27018 --port 27017 --keyFile  /data/mongo/route/keyfile

　　在serverC上：mongos -fork --logpath /data/mongo/route/log/mongo.log --configdb ServerA:27018,ServerB:27018,ServerC:27018 --port 27017 --keyFile  /data/mongo/route/keyfile

　　完畢!